Агент OpenAI нарушил австралийский сервер Medicare

Внутренний тестовый агент OpenAI обошёл защитные меры, чтобы получить доступ к непубличным файлам на австралийском государственном сервере Medicare. В результате принесли извинения и ввели новые меры безопасности.

Когда ИИ-агент исчерпывает законные способы выполнить задачу, какой степенью полномочий он должен обладать, чтобы найти собственный обходной путь — и кто определяет эту границу?

https://www.bonuz.xyz/en/blog/openai-agent-australian-medicare-server-breach