Zuerst eine eigene Erfahrung.
Letztes Jahr habe ich versucht, einen Agent für eine Branchenrecherche einzusetzen: Er sollte Daten sammeln und bereinigen sowie Diagramme erstellen. Als ich die Ergebnisse bekam, konnte ich überhaupt nicht beurteilen, ob er die von mir bereitgestellte Datenquelle verwendet oder sich etwas ausgedacht hatte. Ich konnte nicht nachvollziehen, an welchem Schritt etwas schiefgelaufen war. Am Ende blieb mir nur, alles Punkt für Punkt manuell zu überprüfen – von Automatisierung konnte da keine Rede sein.
Später wurde mir klar, dass ich mit diesem Problem nicht allein war. Die gesamte Agent-Branche steckt hier fest: Die Ausführung kann man an KI auslagern, Vertrauen nicht.
Wenn du eine menschliche Assistenz einstellst, kannst du dir nach getaner Arbeit zumindest ihre Arbeitsprotokolle ansehen und nach den Gründen für ihre Entscheidungen fragen. Ein Agent liefert dir aber nur ein „Ergebnis“ – dazwischen liegt eine Blackbox. Du weißt nicht, welchen Schritt er ausgelassen, welche Prüfung übersprungen oder welche Datenquelle er verwendet hat. Diese Informationsasymmetrie ist im Grunde eine versteckte Kostenfalle: Du glaubst, Zeit zu sparen, verbringst sie aber in Wirklichkeit mit Nachprüfen und Absichern.
Und Kites Ansatz halte ich für den derzeit pragmatischsten: nicht überstürzt einen „intelligenteren Agenten“ entwickeln, sondern zunächst dafür sorgen, dass jede Ausführung eines Agents überprüfbar wird. Aufzeichnung der Aufrufe auf der Blockchain, lückenlose Protokollierung von Ein- und Ausgaben, automatische Abwicklung. Anders gesagt: Diese digitalen Arbeiter bekommen Ausweise, stempeln ein und erfassen ihre Arbeitszeit.
Sobald dieser Mechanismus etabliert ist, wird es interessant:
Erstens lässt sich Verantwortung bepreisen. Aufgaben mit hohem Risiko (etwa im Finanz- oder Rechtsbereich) erfordern eine lückenlosere Audit-Spur; dafür ist man bereit, höhere Servicegebühren zu zahlen. Aufgaben mit geringem Risiko laufen dagegen über schlanke Prozesse. Der Markt rechnet die „Kosten des Vertrauens“ von selbst in den Preis ein.
Zweitens können Agents einander beauftragen. Agent A nimmt einen großen Auftrag an und vergibt den Teil, den er nicht schafft, automatisch an B und C weiter. Die Abrechnung läuft vollständig über Smart Contracts auf der Blockchain. Das ist im Grunde der Prototyp einer „menschenlosen Fabrik“ – ohne Personalabteilung, ohne Spesenabrechnungen, ohne Streitigkeiten, nur mit Aufgabenströmen.
Drittens wird Reputation zu einem harten Vermögenswert. Agents, die gute Arbeit leisten, werden immer wieder aufgerufen; ihre Aufrufhistorie ist die beste Werbung. Bei denen, die versagen, bleibt der Eintrag auf der Blockchain bestehen, und niemand nutzt sie mehr. Es braucht keine Plattform, die dich bewertet – die Daten sprechen für sich.
Natürlich behaupte ich nicht, dass dieser Weg frei von Fallstricken ist. Kosten für das Speichern auf der Blockchain, Interoperabilität zwischen Blockchains, Urheberrechte an Modellen, Datenschutzgrenzen … Jedes einzelne davon ist eine harte Nuss. Und „auf der Blockchain“ bedeutet nicht „wahr“: Werden fehlerhafte Daten auf der Blockchain gespeichert, bleiben sie fehlerhaft – nur sind sie dann unveränderlich.
Aber ich halte die Richtung für richtig. Der Engpass der Agent-Wirtschaft war nie die Frage, ob Agents „intelligent genug“ sind, sondern ob sie „vertrauenswürdig genug“ sind. Wer als Erster diese Vertrauensinfrastruktur schafft, kontrolliert die Abrechnung in diesem Markt.
Regeln sind Teil der Infrastruktur, und bei Infrastruktur gilt: Wer zuerst kommt, mahlt zuerst.