Ich bin in das Newton-Protokoll gegangen, mit der Erwartung, dass es wieder um ein Gespräch darüber geht, wie schnellere KI-Automatisierung möglich ist. Und ich bin mit etwas ganz anderem herausgekommen.

Je mehr ich gelesen habe, desto klarer wurde mir: Newton stellt nicht wirklich die Frage, „Kann ein KI-Agent handeln?“ Es fragt vielmehr: „Wozu sollte ein KI-Agent berechtigt sein, bevor er handelt?“

Dieser Unterschied ist entscheidend.Ich glaube, die Branche hat sich zu sehr daran gewöhnt, „nachweisbar“ so zu behandeln, als würde das automatisch „richtig“ bedeuten. Das ist nicht so.
Ein kryptografischer Beweis kann zeigen, dass ein Agent seine Berechtigungen exakt so befolgt hat, wie sie formuliert wurden. Er kann jedoch nicht beweisen, dass die zugrunde liegende Entscheidung klug war oder dass die Policy selbst wirklich alle Sonderfälle abgedeckt hat.

Für mich beginnt dort die eigentliche Herausforderung.

Wenn Vertrauen von Menschen in Policies verlagert wird, dann werden diese Policies zu einem der wichtigsten Bestandteile des Systems. Und wenn Governance dafür verantwortlich ist, diese Policies zu gestalten, dann ist Governance nicht mehr nur „Wählen“. Dann geht es darum zu entscheiden, welche Fehler das System machen darf.

Deshalb hat mich das Newton-Protokoll so angesprochen. Nicht, weil es perfekte Automatisierung verspricht, sondern weil es eine tiefere Frage sichtbar macht, mit der sich die Branche offenbar erst am Anfang ernsthaft auseinandersetzt.

Während KI-Agenten mehr Autorität über Kapital bekommen, glaube ich nicht, dass das größte Risiko darin liegen wird, ob sie die Regeln befolgen.

Ich glaube, die größere Frage ist, ob wir die richtigen Regeln überhaupt zuerst geschrieben haben.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt