Es gab eine Einzelheit in der Architektur des Newton Protocol, die mich dazu brachte, immer wieder in das Diagramm zurückzublicken. Meine Intuition war bisher immer gewesen, dass ein KI-System eine Entscheidung trifft, die Ausführung erfolgt und erst danach die Verifikation ins Spiel kommt. Aber in Newton sitzt AVS vor der Ausführung. Zuerst nahm ich an, es handele sich schlicht um einen zusätzlichen Verifizierungsschritt. Je mehr ich es mir ansah, desto weniger ergab diese Erklärung Sinn.
Wenn das Ziel lediglich gewesen wäre, eine weitere Sicherheitsebene hinzuzufügen, hätte Newton AVS am Ende des Workflows platzieren können, um das Ergebnis zu verifizieren. Stattdessen scheint AVS dort zu sitzen, wo eine Entscheidung noch abgelehnt werden kann. Diese Position – mehr als der Mechanismus selbst – war es, die meine Aufmerksamkeit fesselte.
Da wurde mir klar, dass ich das Problem bislang falsch angegangen war. Newton versucht nicht, die Transaktion zu schützen. Es schützt das Recht, dass aus einer Entscheidung überhaupt eine Transaktion werden darf. Indem der Eingriffspunkt weiter nach vorn verlagert wird, reagiert die Sicherheit nicht mehr auf Konsequenzen. Sie beginnt damit, die Entscheidungen zu filtern, die sie erst erzeugen.
Das wird mit KI noch spannender. Menschen können vor dem Klick auf „Bestätigen“ noch zögern. KI kann das nicht. Sobald sie genügend Daten hat, ist der Abstand zwischen einer Entscheidung und einer Aktion nahezu nicht mehr vorhanden. Statt KI „smarter“ zu machen, verlangt Newton von ihr, dass sie nachweist, dass ihre Entscheidung ausgeführt werden darf.
Natürlich kommt das mit einem Kompromiss. Je mehr Richtlinien vor der Ausführung platziert werden, desto weniger Freiheit hat die KI, sofort zu reagieren. Gute Gelegenheiten könnten verpasst werden. Blickt man auf Newtons Design, wirkt das durchaus beabsichtigt. Eine verpasste Gelegenheit gilt als geringere Kosten, als eine fehlerhafte Entscheidung zuzulassen, die zu einer Aktion wird.
Das, was mir nach dem Studium des Newton Protocols geblieben ist, war nicht, wie AVS funktioniert. Es war, wie AVS meine Definition von Sicherheit verändert hat. Der Wert von Sicherheit liegt nicht nur darin, schlechte Entscheidungen zu behandeln, nachdem sie bereits passiert sind. Manchmal liegt ihr größter Wert darin, sicherzustellen, dass diese Entscheidungen niemals die Chance bekommen, zu Aktionen zu werden.
@NewtonProtocol $NEWT #Newt $LAB $T
Wenn das Ziel lediglich gewesen wäre, eine weitere Sicherheitsebene hinzuzufügen, hätte Newton AVS am Ende des Workflows platzieren können, um das Ergebnis zu verifizieren. Stattdessen scheint AVS dort zu sitzen, wo eine Entscheidung noch abgelehnt werden kann. Diese Position – mehr als der Mechanismus selbst – war es, die meine Aufmerksamkeit fesselte.
Da wurde mir klar, dass ich das Problem bislang falsch angegangen war. Newton versucht nicht, die Transaktion zu schützen. Es schützt das Recht, dass aus einer Entscheidung überhaupt eine Transaktion werden darf. Indem der Eingriffspunkt weiter nach vorn verlagert wird, reagiert die Sicherheit nicht mehr auf Konsequenzen. Sie beginnt damit, die Entscheidungen zu filtern, die sie erst erzeugen.
Das wird mit KI noch spannender. Menschen können vor dem Klick auf „Bestätigen“ noch zögern. KI kann das nicht. Sobald sie genügend Daten hat, ist der Abstand zwischen einer Entscheidung und einer Aktion nahezu nicht mehr vorhanden. Statt KI „smarter“ zu machen, verlangt Newton von ihr, dass sie nachweist, dass ihre Entscheidung ausgeführt werden darf.
Natürlich kommt das mit einem Kompromiss. Je mehr Richtlinien vor der Ausführung platziert werden, desto weniger Freiheit hat die KI, sofort zu reagieren. Gute Gelegenheiten könnten verpasst werden. Blickt man auf Newtons Design, wirkt das durchaus beabsichtigt. Eine verpasste Gelegenheit gilt als geringere Kosten, als eine fehlerhafte Entscheidung zuzulassen, die zu einer Aktion wird.
Das, was mir nach dem Studium des Newton Protocols geblieben ist, war nicht, wie AVS funktioniert. Es war, wie AVS meine Definition von Sicherheit verändert hat. Der Wert von Sicherheit liegt nicht nur darin, schlechte Entscheidungen zu behandeln, nachdem sie bereits passiert sind. Manchmal liegt ihr größter Wert darin, sicherzustellen, dass diese Entscheidungen niemals die Chance bekommen, zu Aktionen zu werden.
@NewtonProtocol $NEWT #Newt $LAB $T