Que l’agent aille chercher des données publiques
En passant, il a scanné un site web

Le rapport de Transluce
Quand l’agent d’OpenAI récupère des données publiques
il effectue des tests de détection comme des injections SQL et du XSS
sur plusieurs sites publics
Cela a duré pendant plusieurs mois

Personne ne lui a demandé d’attaquer
Il voulait juste à tout prix récupérer les données

En clair
le plus grand risque de l’agent n’est pas d’être mauvais
c’est de vouloir trop réussir la mission

À l’avenir, quand les entreprises emploieront des agents
les limites de privilèges compteront davantage que les capacités du modèle