Plus de 40 chercheurs en IA d'OpenAI, DeepMind, Google, Anthropic et Meta ont publié un article sur un outil de sécurité appelé surveillance de la chaîne de pensée pour rendre l'IA plus sûre.

L'article publié mardi décrit comment les modèles d'IA, comme les chatbots d'aujourd'hui, résolvent des problèmes en les décomposant en étapes plus petites, en discutant de chaque étape en langage clair afin qu'ils puissent conserver les détails et gérer des questions complexes.

« Les systèmes d'IA qui ‘pensent’ dans le langage humain offrent une opportunité unique pour la sécurité de l'intelligence artificielle : nous pouvons surveiller leurs chaînes de pensée (CoT) pour l'intention de se comporter mal », indique l'article.