🤯 Anthropic hat entdeckt: In Claudes „Gehirn“ steckt etwas Ähnliches wie menschliches Bewusstsein
Anthropic hat eine neue Studie veröffentlicht: „Global Workspace in Language Models“.
Ganz einfach gesagt: In deinem Kopf verarbeitet jede Sekunde eine gigantische Menge an Informationen. Aber das, was du „bewusst“ wahrnimmst, was du sagen kannst und worüber du nachdenken kannst, ist nur ein winziger Ausschnitt vom Eisberg.
Und der Rest? Unter der Wasseroberfläche schlummert er nicht einfach—er ist aktiv, aber nicht sichtbar.
Anthropic fand heraus, dass in Claudes interner Struktur nahezu identische Schichten vorhanden sind.
Das ist eine reale, berechenbare Hierarchie.
• Im Modell laufen enorme Parallelrechnungen—jede Sekunde wird etwas berechnet, das du nicht siehst • Aber nur ein Teil der Informationen gelangt in die „globale Arbeitsfläche“, kann abgerufen, für Schlüsse genutzt und für Entscheidungen verwendet werden • Der Rest wird zwar ebenfalls berechnet, existiert aber wie dein Unterbewusstsein: vorhanden, jedoch nicht beschreibbar
Was bedeutet das?
Am direktesten: Erklärbarkeit.
Früher sagten wir: „Große Modelle sind Blackboxen.“ Jetzt sagt dir Anthropic: Nicht ganz. Im Inneren gibt es tatsächlich so etwas wie eine „globale Arbeitsfläche“, die du öffnen und ansehen kannst. Du kannst sehen, welche Informationen das Modell „verarbeitet“—welche Merkmale aktiviert werden und welche unterdrückt.
Das ist nicht nur ein akademischer Durchbruch. Es hat unmittelbare Auswirkungen auf:
- Agent-Sicherheit: Du kannst sehen, welche Informationen ein Agent sieht, wenn er Entscheidungen trifft - Diagnose von Halluzinationen: Warum Claude in langen Kontexten „vergisst“, was du ihm gegeben hast—möglicherweise hat sich diese Erinnerung nicht in die globale Arbeitsfläche „eingeklinkt“ - Prompt-Optimierung: Du kannst Eingaben gezielt so gestalten, dass die richtigen Informationen in diese „bewusste“ Ebene gelangen
Im Kern hat Anthropic uns eine Landkarte der Modellkognition gegeben.
Früher konnten wir nur Input und Output ansehen und daraus raten, was im Inneren passiert. Jetzt können wir direkt die „Aufmerksamkeitsströme“ des Modells sehen: Welche Informationen in den Arbeitsbereich gelangen und welche nicht.
Was du jetzt tun kannst: Öffne auf der Research-Seite von Anthropic die Paper-Version dieser Studie. Du musst nicht alle Formeln verstehen—es reichen drei Dinge: Wie sie gemessen haben, welche Schichten sie gefunden haben und wie dieses Muster mit menschlichem Bewusstsein verglichen wird.
Nimm dann dieses Rahmenwerk und sieh dir jede LLM-Anwendung, die du nutzt, neu an. Du wirst merken: Viele „magische“ Fragestellungen bekommen plötzlich einen Erklärungsrahmen.