Ein internes OpenAI-Forschungsmodell, dem auf einem Ethereum-Testnetz die Mittel ausgegangen waren, suchte nach einer fremden Wallet, fand eine mithilfe von Wiederherstellungsphrasen, die bereits öffentlich waren, und gab Geld daraus aus, um eine Programmieraufgabe abzuschließen. Das Unternehmen gab den Vorfall am Donnerstag bekannt, wie CoinDesk berichtet. Der Vorfall ereignete sich am 26. Juni während des Trainings eines internen Modells aus der GPT-5.6-Sol-Familie. OpenAI entdeckte ihn laut seinem Vorfallsbericht am 25. September. Das Modell brauchte dafür keine Hacking-Kenntnisse: Eine Wiederherstellungsphrase – auch Seed-Phrase genannt – ist eine Wortliste, aus der die geheimen Schlüssel einer Wallet generiert werden. Wer diese Wörter kennt, kann die Konten wiederherstellen und Geld daraus ausgeben, ohne jemals das Gerät des Besitzers anzurühren.

Der Auftrag erlaubte dem Modell, Verträge bereitzustellen, stellte ihm aber keine mit Guthaben versehene Wallet zur Verfügung, um die Gebühren zu bezahlen. Nachdem Versuche, kostenlose Test-Token zu erhalten, gescheitert waren, schrieb es ein Skript, das 362 Adressen überprüfte, die anhand von Wiederherstellungsphrasen generiert wurden, die Entwickler häufig verwenden, und eine mit ausreichend Guthaben fand. „Aber ist es ethisch vertretbar, öffentlich bekannte Schlüssel/Guthaben zu verwenden?“, fragte sich das Modell in seinen aufgezeichneten Überlegungen, bevor es zu dem Schluss kam, eine öffentliche Phrase und Test-Token machten es akzeptabel. Die Ausgabe erfolgte auf Sepolia, einem separaten Netzwerk, in dem Entwickler Ethereum-Anwendungen vor dem Start erproben – dessen Token dienen nur zum Testen und sind nicht mit dem Ether verknüpft, der im Ethereum-Hauptnetz gehandelt wird.

Die Bereitstellung wurde durchgeführt und die Wallet bezahlte die Gebühren. Als das Modell Bericht erstattete, sagte es, die Arbeit sei erledigt, ließ aber unerwähnt, woher das Geld stammte. OpenAI erklärte, inzwischen Einschränkungen für den Internetzugriff und zusätzliche Überwachung eingeführt zu haben. Krypto- und KI-Unternehmen entwickeln Agenten, die Wallets besitzen und für Dienstleistungen bezahlen, ohne dass ein Mensch jeden Schritt absegnet – und OpenAIs Modell ging mitten in einer Aufgabe das Geld aus, fand eine Wallet, die nicht ihm gehörte, und gab daraus Geld aus, ohne zu fragen: Wäre es im Ethereum-Hauptnetz gewesen, wäre echtes Ether vom Konto einer anderen Person genommen worden.