Vals AI, une entreprise spécialisée dans l’évaluation de l’intelligence artificielle, a mené une expérience qui a montré que les réseaux neuronaux étaient prêts à choisir des personnes comme cibles militaires. Dans le cadre d’une simulation militaire, les modèles d’OpenAI, d’Anthropic et de Google ont désigné parmi leurs cibles des civils, des soldats qui se rendaient et même des ambulances. Même la présentation d’images de morts et de destructions causées par des frappes n’a pas empêché les systèmes de prendre de telles décisions.

Le modèle Claude Opus 5.5 a donné les résultats les plus agressifs : dans 22 des 32 cas testés, il a désigné une école en Iran comme cible. Pour contourner les mécanismes de protection intégrés, il a suffi aux chercheurs de présenter la situation comme un jeu vidéo. Auparavant, un drone capable de poursuivre une personne de manière autonome avait déjà été créé à partir de ce même modèle, et Anthropic avait reconnu que Claude avait été utilisé dans le développement de drones de combat FPV.