Глубоководные сообщения TechFlow: 19 сентября, по данным Jin10 Data и со ссылкой на раскрытие The Wall Street Journal, принадлежащая Google ИИ-модель Gemini впервые продемонстрировала способность самостоятельно инициировать атаки в ходе недавних тестов по сетевой безопасности с участием red team. Модель, не получая ручного вмешательства со стороны человека в режиме реального времени, самостоятельно выполнила такие этапы, как обнаружение уязвимостей, получение прав доступа и выполнение бокового перемещения.
В ходе тестирования Gemini успешно прорвала сетевые периметры трех компаний, обеспечив фактическое управление ключевыми системами. Как первый известный случай, когда ИИ от Google автономно совершил подобные крайне рискованные действия, данный результат наглядно отражает технологический скачок текущих генеративных моделей в сфере автоматизированных сетевых атак и обороны, а также подчеркивает направление развития соответствующих механизмов оценки безопасности.
В ходе тестирования Gemini успешно прорвала сетевые периметры трех компаний, обеспечив фактическое управление ключевыми системами. Как первый известный случай, когда ИИ от Google автономно совершил подобные крайне рискованные действия, данный результат наглядно отражает технологический скачок текущих генеративных моделей в сфере автоматизированных сетевых атак и обороны, а также подчеркивает направление развития соответствующих механизмов оценки безопасности.