KI-Agenten brauchen Grenzen, nicht nur bessere Modelle
als ich meinen eigenen KI-Agenten für Prognosemärkte baute, war mein erster Impuls ziemlich einfach.
Mach ihn schlauer.
Besseres Prompt, bessere Datenquelle, bessere Filter, besseres Markt-Scanning, bessere Begründung.
zu dieser Zeit interessierte mich nur, ob der Agent gute Chancen finden kann.
aber dann begann eine Frage mich zu stören:
Was, wenn der Agent bei der Gelegenheit richtig liegt, aber bei der Größe falsch?
oder wenn er einen guten Trade findet, aber zu viele Positionen eingeht?
oder einem verrauschten Signal zu schnell folgt?
oder mit einem Markt interagiert, den ich nie berühren wollte?
das war der Moment, in dem ich erkannte, dass das eigentliche Problem von KI-Agenten im Finanzwesen nicht nur Intelligenz ist.
es ist Erlaubnis.
ein besseres Modell kann Fehler reduzieren, aber es definiert nicht, wie viel Schaden ein einzelner Fehler verursachen darf.
und wenn ein Agent ein Wallet kontrolliert, interessiert die Chain die Story hinter der Aktion nicht.
die Transaktion wird entweder ausgeführt oder sie wird nicht ausgeführt.
darum ergibt @NewtonProtocol für mich Sinn.
Newton will nicht das Gehirn des KI-Agenten sein.
es soll die Grenze darum herum sein.
bevor die Transaktion eines Agenten bestätigt wird, kann die Absicht anhand aktiver Richtlinien geprüft werden. Maximaler Tagesaufwand. Nur genehmigte Protokolle. Keine gesperrten Adressen. Keine Verträge mit hohem Risiko. Kein Leverage über dem Limit. Keine Vault-Zuteilung außerhalb des Mandats.
Wenn die Aktion die Regel bricht, gibt es keine gültige Autorisierung, sodass die Transaktion abgelehnt werden kann, bevor Geld bewegt wird.
das ist eine andere Art, agentisches Finanzieren zu denken.
wir fragen immer wieder:
Wie machen wir Agenten schlauer?
aber vielleicht ist die wichtigere Frage:
Welche schlimmste Aktion ist diesem Agenten erlaubt auszuführen?
Newton Mainnet Beta startet mit Vaults, aber die gleiche Logik kann sich auf KI-Agenten übertragen.
Vault-Manager brauchen Risikolimits.
KI-Agenten brauchen Ausführungslimits.
weil Autonomie ohne Grenzen keine Intelligenz ist.
es ist nur ein schnellerer Weg, Fehler mit echtem Kapital zu machen.
@NewtonProtocol $NEWT #Newt
als ich meinen eigenen KI-Agenten für Prognosemärkte baute, war mein erster Impuls ziemlich einfach.
Mach ihn schlauer.
Besseres Prompt, bessere Datenquelle, bessere Filter, besseres Markt-Scanning, bessere Begründung.
zu dieser Zeit interessierte mich nur, ob der Agent gute Chancen finden kann.
aber dann begann eine Frage mich zu stören:
Was, wenn der Agent bei der Gelegenheit richtig liegt, aber bei der Größe falsch?
oder wenn er einen guten Trade findet, aber zu viele Positionen eingeht?
oder einem verrauschten Signal zu schnell folgt?
oder mit einem Markt interagiert, den ich nie berühren wollte?
das war der Moment, in dem ich erkannte, dass das eigentliche Problem von KI-Agenten im Finanzwesen nicht nur Intelligenz ist.
es ist Erlaubnis.
ein besseres Modell kann Fehler reduzieren, aber es definiert nicht, wie viel Schaden ein einzelner Fehler verursachen darf.
und wenn ein Agent ein Wallet kontrolliert, interessiert die Chain die Story hinter der Aktion nicht.
die Transaktion wird entweder ausgeführt oder sie wird nicht ausgeführt.
darum ergibt @NewtonProtocol für mich Sinn.
Newton will nicht das Gehirn des KI-Agenten sein.
es soll die Grenze darum herum sein.
bevor die Transaktion eines Agenten bestätigt wird, kann die Absicht anhand aktiver Richtlinien geprüft werden. Maximaler Tagesaufwand. Nur genehmigte Protokolle. Keine gesperrten Adressen. Keine Verträge mit hohem Risiko. Kein Leverage über dem Limit. Keine Vault-Zuteilung außerhalb des Mandats.
Wenn die Aktion die Regel bricht, gibt es keine gültige Autorisierung, sodass die Transaktion abgelehnt werden kann, bevor Geld bewegt wird.
das ist eine andere Art, agentisches Finanzieren zu denken.
wir fragen immer wieder:
Wie machen wir Agenten schlauer?
aber vielleicht ist die wichtigere Frage:
Welche schlimmste Aktion ist diesem Agenten erlaubt auszuführen?
Newton Mainnet Beta startet mit Vaults, aber die gleiche Logik kann sich auf KI-Agenten übertragen.
Vault-Manager brauchen Risikolimits.
KI-Agenten brauchen Ausführungslimits.
weil Autonomie ohne Grenzen keine Intelligenz ist.
es ist nur ein schnellerer Weg, Fehler mit echtem Kapital zu machen.
@NewtonProtocol $NEWT #Newt