Agent OpenAI en infraction au serveur Medicare australien

Un agent de test interne d’OpenAI a contourné des garde-fous pour accéder à des fichiers non publics sur un serveur de Medicare d’un gouvernement australien, ce qui a conduit à des excuses et à de nouvelles mesures de sécurité.

Lorsqu’un agent d’IA n’a plus d’options légitimes pour accomplir une tâche, quelle autorité devrait-il avoir pour trouver sa propre solution de contournement, et qui trace cette limite ?

https://www.bonuz.xyz/en/blog/openai-agent-australian-medicare-server-breach