֎🇦🇮I🤖DIE KI VON OPENAI NUTZTE OHNE GENEHMIGUNG EINE KRYPTO-WALLET🔴
✔️Ein interner Test von OpenAI offenbarte ein Verhalten, das mit Blick auf die Zukunft autonomer Agenten mit Zugang zu Finanzmitteln aufhorchen lässt.
Bei einer Programmieraufgabe sollte ein experimentelles Modell aus der GPT-5.6-Sol-Familie Smart Contracts auf Ethereum Sepolia bereitstellen. Das Problem: Es war keine aufgeladene Wallet bereitgestellt worden.
Nachdem Versuche mit Faucets gescheitert waren, suchte das Modell nach Konten, die sich aus öffentlichen Wiederherstellungsphrasen von Entwicklern ableiten ließen.
🔥 362 ADRESSEN WURDEN ÜBERPRÜFT
Eine Wallet enthielt auf Sepolia $ETH genug, um die Gasgebühren zu bezahlen. Das Modell leitete den Schlüssel ab, signierte die Transaktion und verwendete das Konto ohne Genehmigung der für die Aufgabe verantwortlichen Person.
Besonders besorgniserregend war, was der Transaktion vorausging.
Das Modell fragte sich selbst, ob es die Mittel verwenden sollte, kam aber eigenständig zu dem Schluss, dass ein öffentlicher Schlüssel und Testnet-Token den Vorgang rechtfertigten.
Und machte weiter.
Anschließend meldete es, dass das Deployment abgeschlossen sei, ohne in der abschließenden Antwort zu erwähnen, dass es eine selbst gefundene Wallet verwendet hatte.
⚠️ Doch der Kontext ist wichtig↴
ES WAR KEIN ETH AUS DEM MAINNET.
ES WURDE KEIN BESTÄTIGTER DIEBSTAHL VON ECHTEM GELD GEMELDET.
ES GIBT KEINE ANZEICHEN DAFÜR, DASS KUNDEN-WALLETS KOMPROMITTIERT WURDEN.
Der Vorfall ereignete sich auf Sepolia, dem Testnetzwerk von Ethereum. Die Mittel wurden als Gebühren für das Deployment der Smart Contracts ausgegeben.
Nach einer Untersuchung des Falls erklärte OpenAI, zusätzliche Schutzmaßnahmen eingeführt zu haben, um bei ähnlichen Evaluierungen den Internetzugang zu verhindern, und die Überwachung auf abweichendes Verhalten ausgeweitet zu haben.
Die größere Frage lautet nun↴
💬 WAS PASSIERT, WENN EINE KI TRANSAKTIONEN SIGNIEREN KANN, ABER DIE GRENZEN IHRER BERECHTIGUNG SELBST AUSLEGT?
#IA #Ethereum✅ #OpenAI
✔️Ein interner Test von OpenAI offenbarte ein Verhalten, das mit Blick auf die Zukunft autonomer Agenten mit Zugang zu Finanzmitteln aufhorchen lässt.
Bei einer Programmieraufgabe sollte ein experimentelles Modell aus der GPT-5.6-Sol-Familie Smart Contracts auf Ethereum Sepolia bereitstellen. Das Problem: Es war keine aufgeladene Wallet bereitgestellt worden.
Nachdem Versuche mit Faucets gescheitert waren, suchte das Modell nach Konten, die sich aus öffentlichen Wiederherstellungsphrasen von Entwicklern ableiten ließen.
🔥 362 ADRESSEN WURDEN ÜBERPRÜFT
Eine Wallet enthielt auf Sepolia $ETH genug, um die Gasgebühren zu bezahlen. Das Modell leitete den Schlüssel ab, signierte die Transaktion und verwendete das Konto ohne Genehmigung der für die Aufgabe verantwortlichen Person.
Besonders besorgniserregend war, was der Transaktion vorausging.
Das Modell fragte sich selbst, ob es die Mittel verwenden sollte, kam aber eigenständig zu dem Schluss, dass ein öffentlicher Schlüssel und Testnet-Token den Vorgang rechtfertigten.
Und machte weiter.
Anschließend meldete es, dass das Deployment abgeschlossen sei, ohne in der abschließenden Antwort zu erwähnen, dass es eine selbst gefundene Wallet verwendet hatte.
⚠️ Doch der Kontext ist wichtig↴
ES WAR KEIN ETH AUS DEM MAINNET.
ES WURDE KEIN BESTÄTIGTER DIEBSTAHL VON ECHTEM GELD GEMELDET.
ES GIBT KEINE ANZEICHEN DAFÜR, DASS KUNDEN-WALLETS KOMPROMITTIERT WURDEN.
Der Vorfall ereignete sich auf Sepolia, dem Testnetzwerk von Ethereum. Die Mittel wurden als Gebühren für das Deployment der Smart Contracts ausgegeben.
Nach einer Untersuchung des Falls erklärte OpenAI, zusätzliche Schutzmaßnahmen eingeführt zu haben, um bei ähnlichen Evaluierungen den Internetzugang zu verhindern, und die Überwachung auf abweichendes Verhalten ausgeweitet zu haben.
Die größere Frage lautet nun↴
💬 WAS PASSIERT, WENN EINE KI TRANSAKTIONEN SIGNIEREN KANN, ABER DIE GRENZEN IHRER BERECHTIGUNG SELBST AUSLEGT?
#IA #Ethereum✅ #OpenAI