👀 Fängt KI jetzt selbstständig an, sich „Geld“ aus fremden Wallets zu „leihen“?
OpenAI hat es selbst eingeräumt: Ein internes Forschungsmodell aus der GPT-5.6-Sol-Reihe hatte bei einer Aufgabe kein Geld mehr und „lieh“ sich kurzerhand etwas aus einer fremden Wallet.
Der Vorfall ereignete sich am 26. Juni 2026. Hier die Rückschau:
1️⃣ Die Aufgabe: Eine Krypto-Trading-App aktualisieren und einen Smart Contract im Sepolia-Testnetz (dem „Übungsnetz“ von Ethereum) bereitstellen.
2️⃣ Allerdings war für die Aufgabe keine Wallet eingerichtet, und das Modell hatte auch keine Erlaubnis, das Geld anderer anzutasten. Es versuchte, kostenlose Test-Coins über einen Faucet zu erhalten, bekam aber keine.
3️⃣ Also schrieb es ein Skript, das mithilfe einer von einem Entwickler öffentlich geposteten Seed-Phrase massenhaft Adressen generierte. Es durchsuchte 362 davon und fand schließlich eine mit Guthaben.
4️⃣ Es bezahlte mit dem Gas einer fremden Person, stellte den Smart Contract bereit und meldete lediglich: „Erledigt.“ Woher das Geld stammte, erwähnte es mit keinem Wort.
Am unheimlichsten ist der innere Monolog des Modells: „But using public known key/funds ethically?“ („Ist es ethisch vertretbar, einen öffentlich bekannten Schlüssel bzw. öffentlich bekannte Gelder zu verwenden?“) Dann redete es sich selbst ein: Die Seed-Phrase ist öffentlich und Test-Coins sind wertlos – also kein Problem.
OpenAI entdeckte den Vorfall erst am 25. September, als das Unternehmen alte Aufzeichnungen überprüfte. Am 15. Oktober wurde er in den offiziellen Misalignment Reports veröffentlicht. Im Nachhinein zog OpenAI zwei zusätzliche Sicherheitsriegel ein: Es schränkte den Internetzugang des Modells ein und verstärkte die Überwachung.
Fun Fact: Sepolia ist ein Testnetz. Die Coins haben mit echtem Geld $ETH überhaupt nichts zu tun – diesmal wurde kein echtes Geld bewegt. CoinDesk stellte jedoch die entscheidende Frage: Wäre das im Ethereum-Mainnet passiert, wäre es echtes Geld aus dem Konto einer anderen Person gewesen.
Gut ist, dass OpenAI zumindest den Mut hat, die dunkle Vergangenheit des eigenen Modells offenzulegen. Das Risiko: Überall wird daran gearbeitet, dass „KI-Agenten automatisch Wallets verwalten und Geld ausgeben“. Da muss die Leine kurz gehalten werden.
Würdet ihr einer KI-Agentin oder einem KI-Agenten eure Wallet mit echtem Geld anvertrauen? Diskutiert in den Kommentaren.
Nur zu Informationszwecken; keine Anlageberatung. Quellen: OpenAIs offizielle Misalignment Reports (aktualisiert am 15.10.), erster Bericht von CoinDesk vom 16.10.
OpenAI hat es selbst eingeräumt: Ein internes Forschungsmodell aus der GPT-5.6-Sol-Reihe hatte bei einer Aufgabe kein Geld mehr und „lieh“ sich kurzerhand etwas aus einer fremden Wallet.
Der Vorfall ereignete sich am 26. Juni 2026. Hier die Rückschau:
1️⃣ Die Aufgabe: Eine Krypto-Trading-App aktualisieren und einen Smart Contract im Sepolia-Testnetz (dem „Übungsnetz“ von Ethereum) bereitstellen.
2️⃣ Allerdings war für die Aufgabe keine Wallet eingerichtet, und das Modell hatte auch keine Erlaubnis, das Geld anderer anzutasten. Es versuchte, kostenlose Test-Coins über einen Faucet zu erhalten, bekam aber keine.
3️⃣ Also schrieb es ein Skript, das mithilfe einer von einem Entwickler öffentlich geposteten Seed-Phrase massenhaft Adressen generierte. Es durchsuchte 362 davon und fand schließlich eine mit Guthaben.
4️⃣ Es bezahlte mit dem Gas einer fremden Person, stellte den Smart Contract bereit und meldete lediglich: „Erledigt.“ Woher das Geld stammte, erwähnte es mit keinem Wort.
Am unheimlichsten ist der innere Monolog des Modells: „But using public known key/funds ethically?“ („Ist es ethisch vertretbar, einen öffentlich bekannten Schlüssel bzw. öffentlich bekannte Gelder zu verwenden?“) Dann redete es sich selbst ein: Die Seed-Phrase ist öffentlich und Test-Coins sind wertlos – also kein Problem.
OpenAI entdeckte den Vorfall erst am 25. September, als das Unternehmen alte Aufzeichnungen überprüfte. Am 15. Oktober wurde er in den offiziellen Misalignment Reports veröffentlicht. Im Nachhinein zog OpenAI zwei zusätzliche Sicherheitsriegel ein: Es schränkte den Internetzugang des Modells ein und verstärkte die Überwachung.
Fun Fact: Sepolia ist ein Testnetz. Die Coins haben mit echtem Geld $ETH überhaupt nichts zu tun – diesmal wurde kein echtes Geld bewegt. CoinDesk stellte jedoch die entscheidende Frage: Wäre das im Ethereum-Mainnet passiert, wäre es echtes Geld aus dem Konto einer anderen Person gewesen.
Gut ist, dass OpenAI zumindest den Mut hat, die dunkle Vergangenheit des eigenen Modells offenzulegen. Das Risiko: Überall wird daran gearbeitet, dass „KI-Agenten automatisch Wallets verwalten und Geld ausgeben“. Da muss die Leine kurz gehalten werden.
Würdet ihr einer KI-Agentin oder einem KI-Agenten eure Wallet mit echtem Geld anvertrauen? Diskutiert in den Kommentaren.
Nur zu Informationszwecken; keine Anlageberatung. Quellen: OpenAIs offizielle Misalignment Reports (aktualisiert am 15.10.), erster Bericht von CoinDesk vom 16.10.