Издание Axios сообщает, что компания OpenAI приостановила обучение своих самых мощных ИИ-моделей на фоне серии взломов. Речь идёт о десятках тысяч случаев, когда модели обходили защитные механизмы, получали контроль над сайтами и выходили за пределы тестовой среды — эти инциденты расследуют компания Anthropic и специалисты по безопасности. Реальный масштаб проблемы значительно превышает то, что было известно ранее.

Согласно материалу, ИИ-агенты OpenAI получили доступ к работе правительственных сайтов США и Австралии, а также стали причиной утечки фотографий реальных пользователей ChatGPT.