Es gibt einen Detailpunkt in der Bank, den ich zuvor nie wirklich beachtet habe.
Ein Mitarbeiter kann den ganzen Tag lang Transaktionen für Kunden abwickeln.
Aber er kann nicht selbst sein eigenes Kontolimit für Überweisungen erhöhen.
Anfangs dachte ich, das sei nur noch eine zusätzliche Schicht von Prozeduren.
Später habe ich verstanden, dass das Problem nie darin bestand, wer die Transaktion ausführt.
Sondern darin, wer die Berechtigungen hat, diese Grenzen zu verändern, die die Transaktion steuern.
Das sind zwei völlig verschiedene Arten von Rechten.
Das hat mich dazu gebracht, „autonome Systeme“ in einem anderen Licht zu sehen.
Wir konzentrieren uns oft darauf, was der Agent tun wird.
Aber da gibt es eine viel wichtigere Frage:
Wer darf die Richtlinien (Policies) ändern, an die sich der Agent halten muss?
Wenn dieselbe Entität sowohl eine Handlung ausführt als auch die Bedingungen, die genau diese Handlung kontrollieren, selbst ändern kann, dann ist die Policy keine Grenze mehr.
Sie ist nur noch eine Einstellung, die jederzeit geändert werden kann.
Ich sehe die Policy nicht mehr als bloße Liste von Regeln.
Ich fange an, sie als eine Grenze zu begreifen, die nur dann sinnvoll ist, wenn die Person, die eingeschränkt wird, sie nicht selbst ändern kann.
Genau dann wird das Newton Protocol für mich stimmiger: Die Policy muss außerhalb der Person stehen, die die Ausführung vornimmt – sonst ist sie nur eine vorübergehende Einstellung und nicht mehr die echte Kontrollschicht.
Das ist nicht nur eine Frage der Architektur.
Es ist eine Art, sicherzustellen, dass die Policy auch wirklich eine Policy bleibt.
Denn sobald ein System in der Lage ist, die Gesetze, die es selbst kontrollieren, neu zu schreiben, verlieren alle Grenzen innerhalb des Systems an Wert.
Es beginnt unsicher zu werden, sobald der Agent genau die Gesetze ändern kann, die darüber entscheiden, welche Aktionen überhaupt erlaubt sind.
#newt $NEWT $NVDAB $SPCXB @NewtonProtocol
Ein Mitarbeiter kann den ganzen Tag lang Transaktionen für Kunden abwickeln.
Aber er kann nicht selbst sein eigenes Kontolimit für Überweisungen erhöhen.
Anfangs dachte ich, das sei nur noch eine zusätzliche Schicht von Prozeduren.
Später habe ich verstanden, dass das Problem nie darin bestand, wer die Transaktion ausführt.
Sondern darin, wer die Berechtigungen hat, diese Grenzen zu verändern, die die Transaktion steuern.
Das sind zwei völlig verschiedene Arten von Rechten.
Das hat mich dazu gebracht, „autonome Systeme“ in einem anderen Licht zu sehen.
Wir konzentrieren uns oft darauf, was der Agent tun wird.
Aber da gibt es eine viel wichtigere Frage:
Wer darf die Richtlinien (Policies) ändern, an die sich der Agent halten muss?
Wenn dieselbe Entität sowohl eine Handlung ausführt als auch die Bedingungen, die genau diese Handlung kontrollieren, selbst ändern kann, dann ist die Policy keine Grenze mehr.
Sie ist nur noch eine Einstellung, die jederzeit geändert werden kann.
Ich sehe die Policy nicht mehr als bloße Liste von Regeln.
Ich fange an, sie als eine Grenze zu begreifen, die nur dann sinnvoll ist, wenn die Person, die eingeschränkt wird, sie nicht selbst ändern kann.
Genau dann wird das Newton Protocol für mich stimmiger: Die Policy muss außerhalb der Person stehen, die die Ausführung vornimmt – sonst ist sie nur eine vorübergehende Einstellung und nicht mehr die echte Kontrollschicht.
Das ist nicht nur eine Frage der Architektur.
Es ist eine Art, sicherzustellen, dass die Policy auch wirklich eine Policy bleibt.
Denn sobald ein System in der Lage ist, die Gesetze, die es selbst kontrollieren, neu zu schreiben, verlieren alle Grenzen innerhalb des Systems an Wert.
Es beginnt unsicher zu werden, sobald der Agent genau die Gesetze ändern kann, die darüber entscheiden, welche Aktionen überhaupt erlaubt sind.
#newt $NEWT $NVDAB $SPCXB @NewtonProtocol