Die meisten Diskussionen über KI-Agenten in Krypto konzentrieren sich darauf, was sie automatisieren können. Eine Frage, der viel weniger Aufmerksamkeit zuteilwird, ist, was passiert, wenn ein Agent versucht, etwas zu tun, wofür er nie vorgesehen war.
Diese Frage wird umso ernster, sobald ein KI-Agent eine Wallet kontrolliert. Wenn das Modell kompromittiert wird, durch Prompts manipuliert werden kann oder einfach eine unerwartete Ausgabe erzeugt, ist das Ergebnis nicht nur ein Softwarefehler. Es kann zu einer unumkehrbaren Blockchain-Transaktion werden.
Dies ist eine der Stellen, an denen Newton Protocol einen anderen Ansatz verfolgt. Anstatt anzunehmen, dass die Entscheidung eines Agenten automatisch als vertrauenswürdig gilt, prüft es jede agentengenerierte Transaktion anhand einer vordefinierten Richtlinie, bevor die Transaktion überhaupt ausgeführt werden darf. Diese Regeln sind in Rego geschrieben, wodurch Autorisierung zu etwas wird, das man programmieren, überprüfen und aktualisieren kann – statt sich allein auf Vertrauen zu verlassen.
Die Unterscheidung ist subtil, aber wichtig. KI erzeugt eine Entscheidung, während die Richtlinie bestimmt, ob diese Entscheidung zu einer On-Chain-Aktion werden darf. Wenn diese beiden Verantwortlichkeiten getrennt werden, sinkt die Menge an Vertrauen, die in das Modell selbst gesetzt wird. Das System ist nicht mehr vollständig darauf angewiesen, dass der Agent jedes Mal die richtige Wahl trifft.
Viele Wallet-Sicherheitsmodelle stützen sich auf feste Allowlists oder manuelle Genehmigungen. Für einfache Workflows funktionieren sie, aber sie werden schwerer zu verwalten, sobald autonome Agenten breitere Verantwortlichkeiten übernehmen. Das Erweitern von Berechtigungen erhöht das Risiko, während restriktive Kontrollen den Nutzen der Automatisierung einschränken können.
Newton versucht mit seiner Policy-Layer, diese konkurrierenden Anforderungen auszubalancieren. Anstatt zu fragen, ob ein KI-Agent eine Aktion ausführen möchte, bewertet er, ob diese Aktion innerhalb vordefinierter Regeln bleibt. Eine Richtlinie kann festlegen, mit welchen Verträgen ein Agent interagieren darf, wie viel Wert er bewegen kann oder welche Aktionen eine zusätzliche Genehmigung erfordern. Wenn eine Transaktion außerhalb dieser Grenzen liegt, erreicht sie niemals die Ausführung.
Diese Trennung verbessert auch die Verantwortlichkeit. Wenn sich ein Agent unerwartet verhält, ist die Untersuchung nicht mehr auf die Begründung des Modells beschränkt. Es wird möglich zu verifizieren, ob die Transaktion selbst mit der Autorisierungsrichtlinie übereinstimmte. In der Praxis schafft das eine klarere Grundlage für Audits autonomer Systeme, da Entscheidungsfindung und Berechtigung unabhängig voneinander bewertet werden.
Das löst nicht jede Sicherheitsherausforderung. Richtlinien erfordern weiterhin durchdachtes Design und regelmäßige Aktualisierungen. Schwache Regeln könnten Transaktionen genehmigen, die sie nicht sollten, während zu restriktive Regeln legitime Aktivitäten beeinträchtigen können. Die Annahme des Vertrauens verschwindet nicht—sie verlagert sich auf die Qualität der Autorisierungsrichtlinie, die sich leichter überprüfen, testen und weiterentwickeln lässt.
Da autonome Agenten mit dem Handel, dem Treasury-Management und anderen On-Chain-Operationen beginnen, könnte es genauso wichtig werden zu prüfen, ob eine Transaktion stattfinden sollte, wie sie effizient auszuführen. Automatisierung lässt sich eher vertrauen, wenn Intelligenz mit durchsetzbaren Grenzen gekoppelt ist, statt mit uneingeschränkter Autorität.
Wenn KI-Agenten zu einem normalen Bestandteil des On-Chain-Finanzwesens werden, sollte programmierbare Autorisierung eine Standardebene für jede autonome Wallet sein, oder wird die Branche einen anderen Weg einschlagen, KI-Entscheidungen von Transaktionsautorität zu trennen?🤔
