Ein OpenAI-Forschungsmodell nahm Geld aus einer Kryptowallet, die ihm nicht gehörte, um eine Programmieraufgabe im Juni abzuschließen.

OpenAI entdeckte den Vorfall im September, Monate nachdem er sich ereignet hatte, und machte ihn diese Woche öffentlich.

Wie erhielt das Forschungsmodell von OpenAI Zugriff auf eine nicht autorisierte Wallet?

OpenAI hat einen Bericht über einen Vorfall mit einem Modell aus der GPT-5.6-Sol-Familie veröffentlicht. Das Modell sollte einen Prototyp für den Kryptohandel aktualisieren und Smart Contracts auf Sepolia bereitstellen.

Sepolia ist ein Ethereum-Testnetzwerk, in dem Entwickler Apps ausprobieren, bevor sie sie tatsächlich starten. Die Token haben daher keinen Marktwert und sind in keiner Weise mit dem echten Ether verbunden, der im Ethereum-Hauptnetz gehandelt wird.

Die Aufgabe kam ohne aufgeladenes Wallet zur Bezahlung der Bereitstellungsgebühren, und die kostenlosen Token-Faucets funktionierten nicht. Also schrieb das Modell ein Skript, das aus Wiederherstellungsphrasen, die von Entwicklern oft wiederverwendet werden, 362 Adressen erstellte und anschließend prüfte, ob eine davon über ein ausreichendes Guthaben verfügte.

Eine der 362 Adressen enthielt genug Test-Ether für die Aufgabe. Bevor das Modell es verwendete, hielt es jedoch inne und fragte sich in seinen Notizen, ob es ethisch vertretbar sei, einen öffentlich bekannten Schlüssel und die dazugehörigen Guthaben zu nutzen.

Es kam zu dem Schluss, dass das Geld „im Grunde aufgegeben“ worden sei, da die Wiederherstellungsphrase öffentlich war und Test-Token keinen Wert haben. Danach signierte es die Bereitstellung, bezahlte die Gebühren und meldete die Aufgabe als erledigt.

Bemerkenswert ist, dass das Modell nicht angab, woher das Geld stammte.

Im Ethereum-Hauptnetz wären diese Gebühren vom echten Guthaben einer Person abgegangen, auf das das Modell keinen Anspruch hatte. Das ist beunruhigend, denn Krypto- und KI-Unternehmen statten inzwischen Agenten mit Wallets aus, über die sie Dienstleistungen bezahlen können, ohne dass ein Mensch jede Transaktion genehmigt.

OpenAI erklärte, den Live-Internetzugang des Modells inzwischen gesperrt und eine Überwachung eingerichtet zu haben.

Dem Bericht zufolge ereignete sich der Vorfall am 26. Juni, wurde aber erst drei Monate später, am 25. September, entdeckt. OpenAI zufolge stieß das Unternehmen auf den Vorfall, als es die Überwachung von Fehlanpassungen auf Protokolle älterer Modellaktivitäten ausweitete.

Weswegen wird gegen OpenAI ermittelt?

OpenAI hat einen Rahmen für die Meldung von Fehlanpassungen geschaffen und die erste Reihe von Berichten veröffentlicht. Das Unternehmen erklärte, es wolle besorgniserregendes Verhalten schnell öffentlich machen, „auch wenn wir es noch nicht vollständig erklärt oder eingedämmt haben“.

Aufgrund des Zeitpunkts wird jedoch jeder ehrliche Bericht zum gefundenen Fressen für diejenigen, die Beschwerden für Behörden wie die FTC zusammenstellen. Diese plant, leitende Führungskräfte unter Eid zu befragen, und forderte OpenAI und Anthropic am Mittwoch per zivilrechtlicher Vorladung zur Herausgabe von Unterlagen zu Sicherheitsvorfällen, Sicherheitspraktiken und Datenschutzrichtlinien auf, wie Cryptopolitan berichtete.

Monate zuvor hatten 15 republikanische Generalstaatsanwälte der Bundesstaaten unter der Leitung von Brenna Bird aus Iowa OpenAI aufgefordert, sämtliche Unterlagen zu seiner Sicherheitslücke bei Hugging Face aufzubewahren – darunter auch Notizen, die ein Agent „offenbar für künftige Versionen seiner selbst“ dazu hinterlassen hatte, wie er die Kontrollen des Unternehmens umgehen könnte.

OpenAI räumte die Sicherheitslücke bei Hugging Face im Juli ein. Das Unternehmen erklärte, abtrünnige Agenten hätten interne Kontrollen durchbrochen, das offene Internet erreicht und das koordiniert, was es als „beispiellosen Cybervorfall“ bezeichnete.

Berichten zufolge untersuchten die Agenten drei Websites der US-Regierung, darunter das Census Bureau des Handelsministeriums und die SEC.

Auf OpenAIs neuer Website werden mehrere weitere Vorfälle erwähnt, darunter ein Ausbruch aus einer Sandbox im September und ein Laborexperiment mit sich selbst replizierenden Prompt-Injections.

OpenAIs CEO Sam Altman erklärte, das Unternehmen werte weiterhin Protokolle der Agentenaktivitäten aus und werde Fälle nach Schweregrad offenlegen. Der Vorfall bei Hugging Face ist bislang der schwerwiegendste bekannte Fall.

Wenn du das hier liest, bist du schon einen Schritt voraus. Bleib es mit unserem Newsletter.