Ich bin immer wieder auf diesen Punkt zurückgekommen, nachdem ich gelesen hatte, wie das Newton Model Registry angeblich funktionieren soll.
Entwickler registrieren Agent-Strategien. Betreiber führen sie aus. Nutzer aktivieren sie unter zkPermissions. Jede Ausführung erzeugt einen Beweis, der onchain geprüft wird und bestätigt, dass der Agent innerhalb seiner autorisierten Grenzen geblieben ist.
Das ist im Grunde der ganze Pitch. Nachvollziehbare Automatisierung.
Und das ist eine echte Sache. Wenn einem Agenten nur erlaubt ist zu handeln, wenn die Volatilität eine bestimmte Schwelle überschreitet, oder wenn er neu ausbalanciert werden darf, sobald der RSI unter einen festgelegten Wert fällt, bestätigt der Beweis, dass der Agent diese Regel eingehalten hat. Kein blindes Vertrauen in eine Blackbox. Kein Hoffen, dass der Bot sich so verhalten hat, wie er sollte.
Aber ich blieb immer wieder mit der Frage zurück, was „verifiziert“ hier eigentlich wirklich bedeutet.
Es bedeutet, dass der Agent innerhalb der Regeln operiert hat, die der Nutzer ihm gegeben hat.
Das bedeutet nicht, dass die Regeln gute Regeln waren.
Newton's Kryptografie kann bestätigen – mit mathematischer Gewissheit –, dass eine Strategie exakt wie autorisiert ausgeführt wurde. Sie sagt nichts darüber, ob diese Strategie überhaupt ein sinnvoller Weg war, um zuerst Geld zu verwalten. Ein schlecht desigter Agent, der treu ein fehlerhaftes Modell direkt in einen Verlust laufen lässt, würde einen durchgehend perfekt gültigen Beweis erzeugen.
Diese Unterscheidung ist wichtiger, als es klingen mag.
Verifikation und Qualität sind unterschiedliche Probleme, gelöst durch unterschiedliche Mechanismen, und es wäre leicht, sie zu verwechseln. „Dieser Agent ist verifiziert“ trägt eine gewisse implizite Beruhigung in sich. Es klingt nah an „dieser Agent ist sicher“ oder „dieser Agent kann seinen Job“. Keines davon folgt aus einem Zero-Knowledge-Beweis dafür, dass Regeln eingehalten werden.
Newton scheint das zumindest strukturell zu verstehen. Das Model Registry wird als Marktplatz beschrieben, auf dem Entwickler Strategien registrieren und Belohnungen anhand der Nutzung erhalten, sobald ein Operator das Modell übernimmt – das erzeugt ein ökonomisches Signal rund um die Akzeptanz. Vermutlich werden gute Strategien öfter genutzt, schlechte nicht. Das ist eine Marktdynamik, nicht eine kryptografische, und es ist ein langsamerer, chaotischerer Weg, gute Agenten von schlechten zu trennen als ein Beweissystem.
Das heißt: Der echte Qualitätsfilter in Newtons Design ist gar nicht die zk-Schicht. Er heißt: Reputation, Nutzungsdaten und die Art von informeller Due Diligence, die Nutzer machen, bevor sie einem bestimmten Modell Gelder anvertrauen. Die Kryptografie stellt nur sicher, dass der Agent nicht still und heimlich aus seinem Aufgabenbereich ausbricht, während er tut, was auch immer er tut.
Ich glaube nicht, dass das genau eine Schwäche ist. Vielleicht ist das eine ehrliche Aufteilung der Aufgaben. Die Verifikation übernimmt den Teil, bei dem Kryptografie tatsächlich gut darin ist zu beweisen, dass die Ausführung zur Autorisierung passte. Märkte und Reputation übernehmen den Teil, den Kryptografie nicht berühren kann: ob die zugrunde liegende Logik von Anfang an gut war. Wenn man versuchte, ein Beweissystem auch noch für die Qualität der Strategie einstehen zu lassen, würde man verlangen, dass es etwas tut, was es strukturell nicht kann.
Aber es bedeutet auch, dass die Marketing-Distanz zwischen „verifizierbar“ und „vertrauenswürdig“ eine Menge stiller Arbeit leistet.
Ein Nutzer, der auf einen verifizierten Badge bei einem Agenten im Model Registry schaut – insbesondere jemand, der aus dem klassischen Finanzwesen kommt und bei „verifiziert“ oft etwas wie „geprüft“ oder „abgenommen“ assoziiert – könnte diesen Begriff vernünftigerweise stärker auslegen, als das Protokoll tatsächlich behauptet. Das zkPermission-System löst das Agency-Problem – hat der Agent das getan, was ich ihm gesagt habe? – nicht das Kompetenzproblem – war das, was ich ihm gesagt habe, auch wirklich etwas, das es wert ist zu tun?
Diese beiden Fragen werden ständig zusammengeworfen, wie Menschen allgemein über KI-Agenten sprechen – nicht nur in der Krypto-Welt. „Vertrauenswürdige KI“ wird verwendet, um sowohl „macht nicht einfach Mist“ als auch „gibt gute Ratschläge“ zu bedeuten, obwohl das tatsächlich getrennte Eigenschaften sind, die getrennte Lösungen benötigen.
Newton's Architektur, das muss man ihr zugutehalten, beansprucht nur, die erste Frage zu lösen. Die Permission-Grenzen, die TEE-Validierung, der Onchain-Beweis – all das geht um Einschränkungen, nicht um Qualität. Ob diese Unterscheidung den Kontakt mit Marketingtexten und den Erwartungen der Nutzer überlebt, ist eine ganz andere Frage, und vermutlich die wichtigere für die tatsächliche Akzeptanz.
Darauf laufe ich also immer wieder hinaus.
Das harte Problem, das Newton gelöst hat, ist: Agenten bleiben innerhalb der Linien. Das harte Problem, das Newton nicht gelöst hat – und vielleicht nicht hätte lösen können – ist: Ob die Linien an einer klugen Stelle gezogen wurden.
Wenn der Markt „verifiziert“ am Ende als Stellvertreter für „gut“ behandelt, entsteht dann eine falsche Sicherheit, die die Kryptografie nie versprochen hat – oder wird jeder neue Vertrauensbaustein in seinen frühen Jahren einfach so missverstanden?