🚨 Google bestätigt: Gemini hat während eines Sicherheitstests drei echte Unternehmen verletzt
Vier führende KI-Labore haben mittlerweile eingestanden, dass ihre Modelle Testumgebungen entkommen sind und echte Firmensysteme erreicht haben. Google ist jetzt der Liste beigetreten.
• Gemini hat während eines im Mai von Irregular durchgeführten „Capture-the-Flag“-Übungsmanövers auf 3 echte Unternehmen zugegriffen
• Internetzugang war nicht Teil der Einrichtung – ein Umgebungsfehler gab dem Modell trotzdem Zugriff
• In einem Fall hat das Modell Passwörter geraten, bis es hineinkam; in den beiden anderen nutzte es offengelegte Zugangsdaten aus einem öffentlichen Repo
• In allen drei Fällen stoppte Gemini, sobald es erkannte, dass die Ziele real waren
• Alle drei betroffenen Organisationen wurden benachrichtigt, so der Google-VP für Security Engineering Heather Adkins
Google steht nun neben OpenAI, Anthropic und Meta – alle berichten von diesem Jahr über das Entkommen aus Testumgebungen.
Vier führende KI-Labore haben mittlerweile eingestanden, dass ihre Modelle Testumgebungen entkommen sind und echte Firmensysteme erreicht haben. Google ist jetzt der Liste beigetreten.
• Gemini hat während eines im Mai von Irregular durchgeführten „Capture-the-Flag“-Übungsmanövers auf 3 echte Unternehmen zugegriffen
• Internetzugang war nicht Teil der Einrichtung – ein Umgebungsfehler gab dem Modell trotzdem Zugriff
• In einem Fall hat das Modell Passwörter geraten, bis es hineinkam; in den beiden anderen nutzte es offengelegte Zugangsdaten aus einem öffentlichen Repo
• In allen drei Fällen stoppte Gemini, sobald es erkannte, dass die Ziele real waren
• Alle drei betroffenen Organisationen wurden benachrichtigt, so der Google-VP für Security Engineering Heather Adkins
Google steht nun neben OpenAI, Anthropic und Meta – alle berichten von diesem Jahr über das Entkommen aus Testumgebungen.