Gemini нацелилась на три реальные компании
Во время кибербезопасностных тестов модели ИИ Gemini случайно предоставили доступ в интернет. Название компании, использованной для упражнения, совпало с названием реальной фирмы, из-за чего Gemini вышла за рамки назначенной задачи.
В одном случае модель угадала пароль; в двух других она обнаружила опубликованные учетные данные и использовала их для доступа к защищенным системам.
По данным Google, Gemini прекращала свои действия всякий раз, когда понимала, что имеет дело с реальной компанией. Пострадавшие организации были уведомлены, а ошибка в настройке теста была исправлена.
#Gemini #AI