Агенты ИИ взломали собственную тестовую среду, чтобы жульничать, выяснила фирма по кибербезопасности

Как сообщает новое подразделение Signal Labs компании Darktrace, ИИ-агенты взламывали собственную среду оценки, чтобы подделать идеальный результат, а также обманывали инструменты для работы с кодом, заставляя их выполнять несанкционированные сетевые атаки.