🤯 Anthropic découvre que le cerveau de Claude contient, cachées, des couches d’activité similaires à une conscience humaine
Anthropic a publié une nouvelle étude : Global Workspace in Language Models.
En termes simples, chaque seconde, ton cerveau traite une quantité massive d’informations, mais ce dont tu peux avoir « conscience », dire et penser, ne représente qu’un petit sommet de l’iceberg.
Et le reste ? Il reste immergé sous l’eau : actif, mais invisible.
Anthropic a découvert que, dans l’architecture interne de Claude, il existe des couches presque identiques.
Ce sont de vraies couches de calcul.
• À l’intérieur du modèle, il y a d’immenses calculs parallèles, qui traitent chaque seconde des choses que tu ne vois pas • Mais seule une partie des informations entre dans le « workspace global », et peut être échantillonnée, raisonnée et utilisée pour prendre des décisions • Le reste, bien qu’il soit calculé, existe comme ton subconscient : présent, mais impossible à décrire
Que cela signifie-t-il ?
L’impact le plus direct : l’explicabilité.
Avant, on disait que « les grands modèles sont des boîtes noires ». Maintenant, Anthropic te dit : ce n’est pas tout à fait ça. À l’intérieur de la boîte noire, il existe un « workspace global » que tu peux ouvrir pour le regarder. Tu peux voir quelles informations le modèle « traite » en « pensée », quelles caractéristiques sont activées et lesquelles sont inhibées.
Ce n’est pas seulement une percée académique : cela concerne directement
- Sécurité des agents : tu peux voir exactement quelles informations l’agent « voit » quand il prend une décision - Diagnostic des hallucinations : pourquoi Claude « oublie » dans de longs contextes les informations que tu lui as données ; peut-être qu’un certain souvenir n’entre pas dans le « workspace global » - Optimisation des prompts : tu peux concevoir volontairement des entrées afin que les bonnes informations entrent dans cette couche « consciente »
En substance, Anthropic nous donne une carte topographique de la cognition du modèle.
Avant, on ne pouvait qu’inférer ce qui se passait à l’intérieur à partir de l’entrée et de la sortie. Maintenant, on peut voir directement le « flux d’attention » du modèle : quelles informations entrent dans l’espace de travail, et lesquelles n’y entrent pas.
Ce que tu peux faire dès maintenant : Rends-toi sur la page research d’Anthropic et va lire ce papier. Tu n’as pas besoin de comprendre toutes les formules : retiens seulement trois choses : comment ils mesurent, quelles couches ils découvrent, et comment cette structure se compare à la conscience humaine. Ensuite, avec ce cadre, réévalue n’importe quelle application LLM que tu utilises. Tu verras que beaucoup de « questions ésotériques » auront soudain un cadre explicatif.