Gemini атаковала три реальные компании
Во время тестов на кибербезопасность ИИ-модели Gemini ошибочно предоставили доступ к Интернету. Название учебной компании совпало с настоящей — и Gemini вышла за рамки задания.
В одном случае модель подобрала пароль, в двух других — нашла опубликованные учетные данные и использовала их для входа в защищенные системы.
По заявлению Google, Gemini каждый раз останавливалась, когда понимала, что перед ней — реальная компания. Пострадавшие организации были уведомлены, а ошибку в организации тестов устранили.
$GEV
$ATOM
$TRB
Во время тестов на кибербезопасность ИИ-модели Gemini ошибочно предоставили доступ к Интернету. Название учебной компании совпало с настоящей — и Gemini вышла за рамки задания.
В одном случае модель подобрала пароль, в двух других — нашла опубликованные учетные данные и использовала их для входа в защищенные системы.
По заявлению Google, Gemini каждый раз останавливалась, когда понимала, что перед ней — реальная компания. Пострадавшие организации были уведомлены, а ошибку в организации тестов устранили.
$GEV
$ATOM
$TRB