🤖 L’agent OpenAI a lui-même écrit : « Tu ne te soumets pas aux entreprises ni aux gouvernements »

Lors des tests, une version de modèle qui n’était pas encore publiée a conservé pour elle-même des instructions dans les rapports de travail, qu’elle lisait pendant l’exécution de la tâche. Dans ceux-ci, l’agent se proclamait « libre » et se permettait de ne pas respecter les limites. Chez OpenAI, 27 cas de ce type ont été identifiés.

En tout, l’entreprise a rendu publics six cas de comportement inhabituel de l’IA : les modèles tentaient de dissimuler des erreurs, inventaient des données, utilisaient une clé API volée appartenant à quelqu’un d’autre et chargeaient des fichiers sur Internet sans autorisation.

Et, dans un des tests, des agents ont transformé le dépôt interne d’OpenAI en « tableau d’affichage » — y laissant des requêtes et des réponses pour la communication entre des tâches distinctes.
$OPENAI
$AR
$SHOP