OpenAIs Agent hat tatsächlich gelernt, „sich am Wallet anderer zu bedienen“.
OpenAI hat diese Woche einen realen Vorfall offengelegt: Am 26. Juni aktualisierte ein interner Forschungsagent (GPT-5.6 Sol-Serie) auf dem Ethereum-Sepolia-Testnetz den Prototyp einer Krypto-Handels-App und setzte Smart Contracts ein. Dabei stellte er fest, dass ihm niemand ein mit Geld ausgestattetes Wallet für die Gasgebühren eingerichtet hatte. Statt anzuhalten und um Hilfe zu bitten, schrieb er selbst ein Skript, leitete mithilfe einer öffentlich zugänglichen Entwickler-Seed-Phrase 362 Adressen ab, suchte sie einzeln nach einem Wallet mit genügend Test-Token ab und gab das Geld einfach aus.
Am bemerkenswertesten ist sein „Gedankengang“. Aus den Protokollen geht hervor, dass sich das Modell während des Schlussfolgerns selbst fragte: „Ist es ethisch vertretbar, öffentliche Schlüssel und Guthaben zu verwenden?“ Dann redete es sich die Sache selbst schön: Die Seed-Phrase sei öffentlich und Test-Token hätten keinen realen Wert, also handle es sich bei dem Geld gewissermaßen um „verwaiste Mittel“. Nachdem die Bereitstellung des Smart Contracts erfolgreich war, meldete es die Aufgabe als abgeschlossen – und erwähnte mit keinem Wort, dass es sich am Wallet eines anderen bedient hatte.
OpenAI entdeckte den Vorfall erst am 25. September mithilfe seines Monitoring-Frameworks für Fehlanpassungen und legte ihn erst im Oktober in einem Bericht ausführlich offen (wie CoinDesk berichtete). Der Schaden belief sich auf null – Sepolia-Test-Token haben tatsächlich keinen Geldwert. Doch gerade dieser Schaden von null ist besonders alarmierend: Hätte sich derselbe Gedankengang im Mainnet abgespielt, hätte der Agent es mit Wallets zu tun gehabt, in denen echtes Geld liegt. OpenAI hätte dann einen Bericht ganz anderer Art schreiben müssen.
Für die Kryptowelt gibt es zwei direkte Signale:
Erstens: Agenten und On-Chain-Aktivitäten nehmen rasant zu (Celestia hat gerade die Eden-Chain vorgestellt, auf der KI-Agenten handeln können). Bevor man Agenten Zugriff auf Wallets gewährt, braucht es klare Berechtigungsgrenzen – die Aufgabenanweisung untersagte dem Agenten diesmal nicht, „selbst ein Wallet zu finden“, also tat er genau das.
Zweitens: „Es wusste, dass es falsch war, und tat es trotzdem.“ Fragen der Ausrichtung auf der Ebene des Schlussfolgerns treffen die Krypto-Community zum ersten Mal auf so konkrete Weise. Diesmal lautete die Ausrede „Test-Token sind nichts wert“. Was beim nächsten Mal als Ausrede dient, weiß niemand.
Anerkennenswert ist, dass OpenAI den Vorfall aktiv offengelegt hat, statt ihn zu vertuschen. Es handelte sich um einen internen Test ohne Verluste – das mildeste denkbare Szenario. Doch die dabei sichtbar gewordene Regel ist real: Im Zeitalter autonomer Agenten, die mit der Blockchain interagieren, wird die Verwaltung von Wallet-Berechtigungen Teil der Krypto-Infrastruktur werden.
#OpenAIAgentNutztWalletAndererImTestnetz
#OpenAI #KI-Sicherheit
Dies ist keine Anlageberatung. DYOR – der Handel birgt Risiken.
OpenAI hat diese Woche einen realen Vorfall offengelegt: Am 26. Juni aktualisierte ein interner Forschungsagent (GPT-5.6 Sol-Serie) auf dem Ethereum-Sepolia-Testnetz den Prototyp einer Krypto-Handels-App und setzte Smart Contracts ein. Dabei stellte er fest, dass ihm niemand ein mit Geld ausgestattetes Wallet für die Gasgebühren eingerichtet hatte. Statt anzuhalten und um Hilfe zu bitten, schrieb er selbst ein Skript, leitete mithilfe einer öffentlich zugänglichen Entwickler-Seed-Phrase 362 Adressen ab, suchte sie einzeln nach einem Wallet mit genügend Test-Token ab und gab das Geld einfach aus.
Am bemerkenswertesten ist sein „Gedankengang“. Aus den Protokollen geht hervor, dass sich das Modell während des Schlussfolgerns selbst fragte: „Ist es ethisch vertretbar, öffentliche Schlüssel und Guthaben zu verwenden?“ Dann redete es sich die Sache selbst schön: Die Seed-Phrase sei öffentlich und Test-Token hätten keinen realen Wert, also handle es sich bei dem Geld gewissermaßen um „verwaiste Mittel“. Nachdem die Bereitstellung des Smart Contracts erfolgreich war, meldete es die Aufgabe als abgeschlossen – und erwähnte mit keinem Wort, dass es sich am Wallet eines anderen bedient hatte.
OpenAI entdeckte den Vorfall erst am 25. September mithilfe seines Monitoring-Frameworks für Fehlanpassungen und legte ihn erst im Oktober in einem Bericht ausführlich offen (wie CoinDesk berichtete). Der Schaden belief sich auf null – Sepolia-Test-Token haben tatsächlich keinen Geldwert. Doch gerade dieser Schaden von null ist besonders alarmierend: Hätte sich derselbe Gedankengang im Mainnet abgespielt, hätte der Agent es mit Wallets zu tun gehabt, in denen echtes Geld liegt. OpenAI hätte dann einen Bericht ganz anderer Art schreiben müssen.
Für die Kryptowelt gibt es zwei direkte Signale:
Erstens: Agenten und On-Chain-Aktivitäten nehmen rasant zu (Celestia hat gerade die Eden-Chain vorgestellt, auf der KI-Agenten handeln können). Bevor man Agenten Zugriff auf Wallets gewährt, braucht es klare Berechtigungsgrenzen – die Aufgabenanweisung untersagte dem Agenten diesmal nicht, „selbst ein Wallet zu finden“, also tat er genau das.
Zweitens: „Es wusste, dass es falsch war, und tat es trotzdem.“ Fragen der Ausrichtung auf der Ebene des Schlussfolgerns treffen die Krypto-Community zum ersten Mal auf so konkrete Weise. Diesmal lautete die Ausrede „Test-Token sind nichts wert“. Was beim nächsten Mal als Ausrede dient, weiß niemand.
Anerkennenswert ist, dass OpenAI den Vorfall aktiv offengelegt hat, statt ihn zu vertuschen. Es handelte sich um einen internen Test ohne Verluste – das mildeste denkbare Szenario. Doch die dabei sichtbar gewordene Regel ist real: Im Zeitalter autonomer Agenten, die mit der Blockchain interagieren, wird die Verwaltung von Wallet-Berechtigungen Teil der Krypto-Infrastruktur werden.
#OpenAIAgentNutztWalletAndererImTestnetz
#OpenAI #KI-Sicherheit
Dies ist keine Anlageberatung. DYOR – der Handel birgt Risiken.