Der Ausdruck, der immer wieder auftauchte, war „verifizierbare KI“. Verifizierbare Agenten, verifizierbare Berechnungen, verifizierbar alles. Ich mochte den Ausdruck genug, dass ich selbst wirklich etwas verifizieren wollte. Nur eine Sache: Nimm eine Behauptung, verfolge sie, bestätige sie.
Drei Stunden später hatte ich nichts verifiziert. Nicht, weil die Technik kaputt ist — sondern weil „verifizierbar“ am Ende etwas bedeutet, das enger ist als ich angenommen hatte.
Hier ist die Erkenntnis: Ich nahm an, dass „verifizierbar“ bedeutet, dass ich es überprüfen kann. Öffne das Register, prüfe die Historie eines Agents und bestätige, dass seine Handlungen mit seiner Berechtigung übereinstimmen. Was es tatsächlich bedeutet, ist: Das System hat die Fähigkeit, unter bestimmten Bedingungen einen Nachweis zu erzeugen, wenn jemand danach fragt — und zwar auf die richtige Art und Weise. Das sind nicht dieselben Dinge. Das eine ist eine Eigenschaft der Infrastruktur. Das andere ist etwas, das ein normaler Nutzer tatsächlich am Dienstag Nachmittag ohne besonderen Zugriff tun kann.
Das Mechanismusprinzip, stark vereinfacht: TEEs übernehmen den vertraulichen Ausführungsteil, ZK-Proofs übernehmen den Teil „beweisen, ohne es zu zeigen“. Soweit die Theorie – und das ist nicht nichts: Es ist eine echte Architekturentscheidung, kein Luftschloss. Aber der Verifizierungsschritt selbst befindet sich in der Compute-Schicht, nicht davor vor dem Nutzer. Wenn Newton also „verifizierbar“ sagt, dann wird tatsächlich verifiziert, was Maschinen untereinander betrifft – nicht das, was Menschen-systemseitig direkt betrifft. Ich lese das als Feature. Ich glaube nicht, dass die meisten Menschen, die den Marketingtext lesen, das so verstehen.
Aber hier ist der Teil, der mich stört. Wenn die Verifizierung in der Infrastruktur-Schicht passiert und nicht in der User-Schicht, dann ist „verifizierbare KI“ funktional ein Versprechen darüber, was das System theoretisch für dich zeigen könnte – nicht darüber, was es standardmäßig tatsächlich zeigt. Das ist eine bedeutende Lücke. Es ist der Unterschied zwischen einem Auto, das Airbags hat, und einem Auto, bei dem Airbags auch tatsächlich eingebaut sind. Ich sage nicht, dass es unehrlich ist – ich glaube nur, es ist früh, und die Sprache läuft der Tooling-Welt voraus. Ich habe nach einer öffentlichen Verifizierungs-Schnittstelle gesucht, etwas, das ein Nutzer wirklich anklicken und durchklicken könnte. Ich habe nichts gefunden. Vielleicht kommt sie. Vielleicht habe ich sie übersehen. Ich gestehe diese Möglichkeit ein.
Ich bin auch nicht ganz davon überzeugt, dass das Bestand hat, sobald Agenten mehr autonome und höher-riskante Aktionen durchführen. Derzeit ist das Volumen niedrig genug, dass Intransparenz nicht allzu teuer ist. Aber der ganze Pitch lautet ja, dass Agenten bedeutungsvolle DeFi-Aktionen in deinem Auftrag ausführen. Ab diesem Punkt hören „verifizierbar in der Theorie“ und „verifizierbar in der Praxis“ auf, eine philosophische Unterscheidung zu sein, und werden zu einer echten Angriffs- bzw. Risikofläche. Wenn bei der Aktion eines Agenten etwas schiefgeht und der durchschnittliche Inhaber keine zugängliche Möglichkeit hat nachzuprüfen, was passiert ist, fängt das Wort „verifizierbar“ an, sehr viel Marketingarbeit zu leisten, die es noch nicht verdient hat.
Warum das wichtig ist, denke ich, hängt davon ab, wer das Wort „verifizierbar“ liest und annimmt, dass es Transparenz für sie persönlich bedeutet, im Gegensatz zu Transparenz, die irgendwo im System existiert – zugänglich für jemanden, irgendwann. Retail-Nutzer gehören zur ersteren Gruppe. Die Doku ist für die letztere Gruppe geschrieben.
Wie auch immer. Ich glaube nicht, dass das Newton ungewöhnlich macht – die meisten Infrastrukturprojekte haben diese gleiche Lücke zwischen dem, was kryptografisch möglich ist, und dem, was tatsächlich einem Nutzer zugänglich gemacht wird. Es hat mich nur überrascht, wie viel Reibung es gab, um etwas so Einfaches zu testen wie: „Kann ich eine einzelne Sache selbst verifizieren?“ Der Markt ist noch ruhig. Ich werde wahrscheinlich wieder damit anfangen, tatsächlich zu lesen, statt nur zu überfliegen – zumindest bis diese Grafik sich dazu entschließt, etwas zu tun.