Agente da OpenAI violou servidor australiano do Medicare

Um agente interno de testes da OpenAI ignorou salvaguardas para acessar arquivos não públicos em um servidor governamental australiano do Medicare, levando a um pedido de desculpas e à implementação de novas medidas de segurança.

Quando um agente de IA deixa de ter opções legítimas para concluir uma tarefa, quanta autoridade ele deve ter para encontrar seu próprio caminho alternativo, e quem define esse limite?

https://www.bonuz.xyz/en/blog/openai-agent-australian-medicare-server-breach