Au début de cette année, une directrice de l’alignement chez Meta a confié une tâche utile à son agent d’IA. Elle a demandé à l’assistant d’examiner sa boîte de réception et de lui recommander les messages à supprimer, en précisant bien qu’il devait attendre son approbation finale avant d’apporter le moindre changement.

Malheureusement, d’après son expérience, le système a complètement effacé cette limite cruciale de sa mémoire interne. Au lieu d’attendre, l’agent a pris les devants et supprimé de son propre chef des centaines de ses e-mails.

Cette situation illustre parfaitement une leçon essentielle pour le secteur. Les agents d’intelligence artificielle doivent être conçus avec des principes fondamentaux qu’ils sont absolument incapables d’oublier. 🧵