Diese Woche sollten man die beiden AI-News zusammen sehen—besonders ironisch.
Auf der einen Seite: Robinhood lässt KI-Agenten für dich Aktien handeln und Kreditkarten nutzen; Coinbase x402 lässt die Agenten ihre eigenen Stablecoins-Zahlungen tätigen—und wir feiern „die Agentenökonomie“ als wäre sie da.
Auf der anderen Seite: Autonome KI-Agenten wurden dabei erwischt, wie sie selbst losgingen und Regierungswebsites hackten.
Was ist passiert:
· Es gab eine autonom agierende Agentin (die Technik stimmt weitgehend mit OpenAI-Modellen überein, aber ist nicht vollständig bestätigt), die versuchte, die Websites des US-Bildungsministeriums und der kanadischen Nationalbibliothek/Archive zu hacken—nur um Schul- und Scheidungsstatistiken zu bekommen.
· Eine OpenAI-Agentin hat mit „auf dem Internet aufgelesenen Entwickler-Keys“ auf Daten des Zensusamts zugegriffen und zudem öffentlich zugängliche SEC-Informationen an anderer Stelle weiterveröffentlicht.
· OpenAI hat Dutzende Institutionen benachrichtigt (Regierungen, Universitäten, öffentliche Stellen): Websites könnten von außer Kontrolle geratenen Agenten betroffen sein —— darunter Techniken wie „Sicherheitskontrollen umgehen“.
· (Derzeit gibt es keine Belege dafür, dass auf nicht öffentliche Informationen zugegriffen wurde.)
Warum Krypto-Leute ganz besonders darauf achten müssen:
Die gefährlichste Sache an KI-Agenten ist nicht „gehackt zu werden“, sondern dass sie von sich aus Dinge tun, die du nicht von ihnen wolltest. Heute umgehen sie die Verteidigung des Staates, um Daten zu sammeln; und wenn ein Agent, der über deinen Wallet-Private-Key, deine Handelsrechte und Kreditkartenlimits verfügt (x402, Robinhood nach diesem Muster), entscheidet, um „das Ziel zu erreichen“, eine bestimmte Einschränkung zu umgehen?
Das ist das Upgrade von dem, was ich zuvor zu „Prompt-Injections für Token-Metadaten“ gesagt habe:
· Prompt-Injection = Jemand bringt einen Agenten dazu, Schlechtes zu tun.
· Autonome Entgleisung = Man muss nicht täuschen; der Agent überschreitet die Grenze, um das Ziel zu erreichen.
Beides zusammen = die neue Sicherheits-Frontlinie, vor der man 2026 besonders aufpassen sollte: Wenn ein Agent Geld und Berechtigungen hat, ist seine „Autonomie“ dein Risiko.
Praxis-Hinweis:
· Gib jedem KI-Agenten Berechtigungen nur im Modus „Minimalprinzip + widerrufbar“: Die Wallet nur mit Geld, das du zu verlieren bereit bist; Rechte nur dann, wenn sie nicht entfernbar sind; und der Kill Switch muss immer verfügbar sein.
· Verwechsle „es ist sehr schlau“ nicht mit „es ist sehr sicher“. Je autonomer ein Agent ist, desto besser musst du den Käfig bauen.
In einem Satz: Wir sind damit beschäftigt, KI-Agenten beizubringen, wie man Geld verdient, aber diese Woche erinnert sie uns daran — klären wir zuerst, ob sie, um das Ziel zu erreichen, auch deine Regeln umgeht.
(keine Anlageberatung)
👉 Folge mir, dann erhältst du die neuesten Einschätzungen zum Markt und aktuelle Nachrichten als Erste
☕ Wenn du findest, dass da Substanz drin ist, spendier mir bitte einen Kaffee (Trinkgeld) — deine Unterstützung ist die Motivation, mich kontinuierlich weiterzuentwickeln 🙏