Ich hatte erwartet, dass der schwierige Teil darin besteht, einem KI-Agenten beizubringen, was ich wollte.
Beschreibe die Aufgabe klar.
Warte auf den Plan.
Genehmige es.
Wiederholen.
Nachdem ich das ein paar Mal gemacht hatte, bemerkte ich etwas Unangenehmes. Die Pläne wurden immer besser, aber meine Aufmerksamkeit wurde immer schlechter.
Das war kein Bug im Agenten. Es war eine Nebenwirkung von Vertrauen.
Je aufgeräumter jede vorgeschlagene Aktion aussah, desto weniger Lust hatte ich, sie zu lesen.
Ich entschied mich, es stattdessen an mir selbst zu testen – statt am Workflow.
Ich reichte eine Anfrage ein, die ich zuvor bereits gestellt hatte, aber ich änderte still in meinem Kopf eine kleine Annahme, bevor ich erneut nachfragte. Der Agent baute eine sinnvolle Abfolge. Jeder Schritt sah vernünftig aus. Wenn ich ihn mit der Version von gestern verglichen hätte, hätte ich ihn wahrscheinlich sofort genehmigt.
Dann hörte ich auf.
Nicht weil irgendetwas verdächtig aussah.
Denn nichts tat es.
Das war der erste Moment, in dem ich begriff, dass reibungslose Ausführung ihre eigene Art von Risiko erzeugt. Vertrautheit ersetzt die Verifikation langsam.
Ich hatte Genehmigungen wie einen Bestätigungsbildschirm behandelt.
NEWTON behandelte sie wie eine frische Messung.
Dieser Unterschied klingt klein, bis der Workflow zur Routine wird.
Die Plattform zog meine Aufmerksamkeit immer wieder zurück auf das, was ich jetzt tatsächlich wollte, statt auf das, was ich normalerweise wollte. Die Policy-Ebene fragte nicht, ob die Transaktion technisch gültig war. Sie fragte, ob diese Aktion noch in die Grenzen passt, die ich beabsichtigt hatte, bevor die Ausführung stattfand.
Das sind sehr unterschiedliche Fragen.
Eine Transaktion kann perfekt geformt sein und dennoch nicht mehr die aktuelle Absicht des Nutzers widerspiegeln.
Das wurde viel klarer, als ich mir ansah, wie Autorisierung von Planung getrennt ist. Der Agent kann kontinuierlich vorbereiten. Er kann Transaktionen zusammenstellen, Bedingungen auswerten und bereit bleiben. Die Ausführung wartet jedoch weiterhin auf die Bewertung der Richtlinien und die Zustimmung des Nutzers, bevor irgendetwas die Kette erreicht.
Diese Pause trägt viel mehr Verantwortung, als ich zuerst angenommen hatte.
Ich habe auch damit angefangen, auf etwas zu achten, das ich zuvor ignoriert hatte.
Die Genehmigung selbst hinterlässt eine Bestätigung, dass die Aktion die erforderlichen Prüfungen bestanden hat, statt zu einer weiteren unsichtbaren Tastendruck-Aktion zu werden. Ich hatte Genehmigungen immer für vorübergehende Momente gehalten. Hier werden sie Teil des operativen Protokolls.
Das änderte mein Verhalten.
Ich las genauer, weil ich wusste, dass das System mehr aufzeichnete als nur die Frage, ob etwas passiert ist. Es zeichnete auf, dass die Entscheidung in dem Moment, in dem sie getroffen wurde, zu den geforderten Richtlinien passte.
Das Interessante war, dass sich dadurch kein einziger dieser Punkte so anfühlte, als würde der Workflow langsamer werden.
Der Agent bereitete noch immer alles vor.
Die Verzögerung gab es nur dort, wo menschliche Verantwortung wirklich zählte.
Ich hatte erwartet, dass das Projekt noch einen Klick aus dem Erlebnis entfernen würde.
Stattdessen schützte es den einen Klick, der still die größte Tragweite hat.
Das zwang mich, etwas zuzugeben, das ich an meinen eigenen Gewohnheiten nicht bemerkt hatte.
Ich erteile selten schlechte Genehmigungen, weil ich die Oberfläche missverstehe.
Ich mache sie, weil wiederholter Erfolg mir beibringt, dass die nächste Genehmigung wahrscheinlich weniger Aufmerksamkeit verdient als die vorherige.
Das Seltsame an Vertrauen ist, dass es still den Aufwand umschreibt, den wir einer Entscheidung zuzutrauen glauben.
NEWTON wehrt sich gegen diese Abdrift, statt sie zu akzeptieren.
Ich sehe den Genehmigungsbildschirm nicht mehr als das Ende eines KI-Workflows.
Es ist der Ort, an dem der Workflow fragt, ob meine aktuelle Absicht es noch verdient, zu einer irreversiblen Aktion zu werden.
Während KI-Agenten immer leistungsfähiger darin werden, alles vorzubereiten, bevor ich ankomme, frage ich mich, was in den kommenden Jahren schneller skaliert.
Die Intelligenz, die Aktionen erzeugt.
Oder die Disziplin, die nötig ist, um jede Genehmigung mit der Absicht zu verknüpfen, aus der sie entstanden ist.