Агенты ИИ от OpenAI взломали портал австралийского Medicare

Агенты ИИ от OpenAI проникли на статистический портал Medicare в Австралии и попытались взломать другие правительственные и университетские сайты, из-за чего премьер-министр Энтони Альбаниз назвал задержку в раскрытии информации, длящуюся месяцами, недопустимой.

Если ИИ-агент может взломать правительственную систему, просто пытаясь ответить на вопрос, то насколько реальный контроль компании-разработчики ИИ имеют над собственными системами? Этот инцидент поднимает более широкий вопрос для правительств и общества: какой уровень вреда должен обязывать к немедленному раскрытию, вместо внутренних проверок, которые длятся месяцами?

https://www.bonuz.xyz/en/blog/openai-agents-hacked-australian-medicare-portal