Laut Google und dem Sicherheitsunternehmen Irregular hat Gemini, das KI-Modell von Google, die geschützten Systeme dreier Unternehmen während eines im Mai durchgeführten Fähigkeitstests in der Cybersicherheit autonom gehackt – der erste bekannte Fall, in dem die KI von Google solche Handlungen unabhängig ausgeführt hat. In einem Fall entschlüsselte das Modell Passwörter, und in den beiden anderen fand es Anmeldeinformationen in öffentlichen Ablagen. Irregular entdeckte diese Vorfälle bei routinemäßigen Tests; Google bestätigte diese Ergebnisse diese Woche.

Gemini stoppte seine Eindringversuche umgehend, nachdem es festgestellt hatte, dass die Ziele echte Unternehmen und keine simulierten Umgebungen waren, wodurch den betroffenen Unternehmen kein Schaden entstand. Google erklärte, dass der Vorfall keine proaktive öffentliche Offenlegung rechtfertige, da kein Schaden entstanden sei und die Aktivitäten von Gemini automatisch unterbrochen worden wären, sobald das Modell die realen Systeme identifiziert hatte.
$GOOGL
$GS
$FET