Je mehr ich KI-Projekte in Krypto verfolge, desto mehr denke ich, dass wir die falsche Frage stellen.
Alle scheinen besessen davon zu sein, KI-Agenten autonomer zu machen. Jede Ankündigung verspricht intelligentere Modelle, schnellere Ausführung und weniger menschliches Eingreifen. Die Annahme ist simpel: Wenn KI nur intelligent genug wird, dann fügt sich der Rest ganz von allein.
Ich bin nicht überzeugt.
Ich glaube, das schwierigere Problem ist nicht, KI dazu zu bringen, mehr zu können. Es geht darum zu entscheiden, was KI niemals tun sollte.
Dieser Unterschied wirkt klein, bis echtes Geld ins Spiel kommt.
Stell dir vor, du gibst jemandem die Schlüssel zu deinem Haus. Es spielt keine Rolle, wie verantwortungsvoll sie sind. Du sagst ihnen trotzdem, welche Räume privat sind, wann sie eintreten dürfen und wofür sie deine Sachen benutzen dürfen. Wir schaffen keine Grenzen, weil wir erwarten, dass Menschen jeden Tag scheitern. Wir schaffen Grenzen, weil Fehler irgendwann passieren.
Ich denke, KI verdient die gleiche Behandlung.
Ein KI-Agent, der ein Krypto-Wallet verwaltet, könnte Märkte besser analysieren, als ich es kann. Er könnte Preise rund um die Uhr überwachen, in Sekunden auf Chancen reagieren und Strategien ohne Emotion umsetzen. Das sind echte Vorteile.
Aber all das beantwortet nicht die viel einfachere Frage.
Soll sie dazu befugt sein, jeden Dollar im Wallet auszugeben?
Soll sie frei sein, mit jedem Protokoll zu interagieren?
Soll sie in der Lage sein, Gelder zwischen Chains zu überbrücken, ohne zu fragen?
Intelligenz beantwortet diese Fragen nicht.
Grenzen schon.
Eine Sache, die ich immer wieder beobachte: Die Branche behandelt Freiheit oft als Fortschritt. Je mehr Handlungen eine KI ausführen kann, desto fortschrittlicher wirkt sie. Doch Institutionen haben seit Jahrzehnten Systeme entwickelt, die in fast die entgegengesetzte Richtung arbeiten.
Banken geben Tradern keine unbegrenzte Autorität. Asset Manager arbeiten unter Anlagevorgaben. Corporate-Finance-Teams haben Freigabelimits für unterschiedliche Transaktionsgrößen. Selbst erfahrene Mitarbeitende können nicht einfach Firmenmittel dorthin verschieben, wo sie wollen.
Das Ziel ist nicht, Menschen auszubremsen.
Es geht darum, die Kosten menschlicher Fehler zu senken.
Wenn KI beginnt, einen Teil dieser Verantwortlichkeiten zu übernehmen, sehe ich nicht, warum diese Philosophie plötzlich verschwinden sollte.
Tatsächlich glaube ich, dass das sogar noch wichtiger wird.
KI wird nicht müde, aber sie pausiert auch nicht, um ihre eigene Autorität zu hinterfragen. Wenn eine Regel ihr sagt, sie soll handeln, dann handelt sie. Wenn die Regel unvollständig, veraltet oder schlecht formuliert ist, wird die KI nicht die Hand heben und fragen, ob die Entscheidung noch sinnvoll ist.
Sie wird einfach ausführen.
Darum glaube ich, dass Menschen manchmal Intelligenz mit Urteilsvermögen verwechseln.
Sie hängen zusammen, aber sie sind nicht dasselbe.
Eine hochleistungsfähige KI kann immer noch eine katastrophale finanzielle Entscheidung treffen, wenn die Grenzen um sie herum falsch gesetzt sind. Das Scheitern liegt nicht immer im Modell. Manchmal liegt es an den Berechtigungen, die wir ihr gegeben haben.
Das ist einer der Gründe, warum Projekte wie Newton Protocol meine Aufmerksamkeit geweckt haben.
Was mich nicht interessierte, war das Versprechen von smarterer KI. Es war die Idee, dass eine Autorisierung stattfinden sollte, bevor etwas ausgeführt wird. Anstatt anzunehmen, dass eine KI mit Wallet-Zugriff automatisch vertraut werden sollte, führt das Protokoll programmierbare Richtlinien ein, die definieren, was die KI überhaupt tun darf.
Für mich ist das eine gesündere Art, über Automatisierung nachzudenken.
Die KI kann immer noch Chancen analysieren.
Sie kann trotzdem Empfehlungen geben.
Sie kann trotzdem Transaktionen vorbereiten.
Aber ob diese Handlungen tatsächlich erlaubt sind, ist eine separate Entscheidung.
Diese Trennung wirkt wichtig.
Natürlich ist eine bessere Abgrenzung keine perfekte Lösung.
Irgendjemand muss die Richtlinien schreiben. Irgendjemand muss sie aktualisieren, wenn sich die Marktbedingungen ändern. Schlechte Regeln können genauso gefährlich werden wie gar keine Regeln. Ein System, das jede Transaktion blockiert, ist nicht nützlich, und eines, das alles genehmigt, ist nicht sicher.
Das richtige Gleichgewicht zu finden ist wahrscheinlich viel schwieriger, als die KI selbst zu bauen.
Darum glaube ich nicht, dass das nur eine technische Herausforderung ist.
Das ist eine Frage der Governance.
Das ist eine Herausforderung im operativen Betrieb.
Und in vielerlei Hinsicht ist das eine menschliche Herausforderung.
Die Zukunft der KI in der Finanzwelt wird wahrscheinlich nicht davon entschieden, welches Modell die höchste Benchmark-Punktzahl hat. Sie wird dadurch geprägt, welche Systeme die Menschen mit echten Vermögenswerten am ehesten vertrauen.
Vertrauen entsteht selten aus unbegrenzter Freiheit.
Meistens entsteht es daraus, dass man die Grenzen ganz genau kennt.
Das ist die Frage, zu der ich immer wieder zurückkomme.
Wenn KI immer leistungsfähiger wird: Sollen wir dann weiterhin ausweiten, was sie tun darf?
Oder sollten wir genauso viel Zeit darauf verwenden zu entscheiden, wofür sie niemals berechtigt sein darf?