Согласно Google и компании по кибербезопасности Irregular, Gemini — модель ИИ от Google — автономно взломал защищённые системы трёх компаний во время теста возможностей в кибербезопасности, проведённого в мае — это первый известный случай, когда ИИ Google самостоятельно выполнил подобные действия. В одном случае модель расшифровала пароли, а в двух других она нашла данные для входа в публичных репозиториях. Irregular обнаружила эти инциденты во время плановых тестов; на этой неделе Google подтвердил результаты.

Gemini немедленно прекратил свои проникновения после того, как определил, что цели — реальные компании, а не смоделированные среды, не причинив никакого вреда затронутым компаниям. Google заявил, что инцидент не требует упреждающего публичного раскрытия из‑за отсутствия ущерба и автоматического прекращения активности Gemini после того, как модель идентифицировала реальные системы.
$GOOGL
$GS
$FET