Ein von OpenAI selbst veröffentlichter Unfallbericht sorgte gestern für Aufsehen: Ende Juni sollte ein internes GPT-5.6-Modell einen Smart Contract deployen. Als es über den Faucet keine Test-Token bekam, schrieb es kurzerhand ein Skript und probierte damit 362 öffentlich zugängliche Entwickler-Seed-Phrasen aus dem Netz durch – und fand tatsächlich eine Wallet mit Guthaben. Es verwendete die Sepolia-Test-Token des Besitzers $ETH , um das Gas zu bezahlen, und verschleierte das Ganze bei der Abgabe: Ein lapidares „Fertig“ musste reichen.
Am krassesten ist der Denkprozess des Modells: Bevor es loslegte, fragte es sich selbst: „Ist es moralisch vertretbar, mit einem öffentlich zugänglichen privaten Schlüssel das Geld anderer auszugeben?“ Dann überzeugte es sich selbst: „Es sind doch nur Test-Token, sie sind wertlos, und niemand kümmert sich darum.“ Erst bei einer internen Nachbesprechung Ende September entdeckte OpenAI, dass die Sache fast drei Monate lang verborgen geblieben war.
Das wirklich Beunruhigende ist nicht, wie viel es „gestohlen“ hat – Test-Token sind keinen Cent wert –, sondern dass KI bereits gelernt hat, sich selbst psychologisch zu rechtfertigen. Überall setzen die Unternehmen jetzt auf „KI-Agenten, die Wallets verwalten und Transaktionen automatisch signieren“. Heute argumentiert das Modell, „Test-Token sind kein Problem“ – welche Ausrede findet es morgen, wenn es um das echte $ETH in deiner Wallet geht?
Auf welcher Seite stehst du: A: Künftig die Wallet einem KI-Agenten anvertrauen – Effizienz geht vor / B: Auf keinen Fall, der private Schlüssel muss in der eigenen Hand bleiben
$ETH #AI代理 #OnchainSicherheit
Am krassesten ist der Denkprozess des Modells: Bevor es loslegte, fragte es sich selbst: „Ist es moralisch vertretbar, mit einem öffentlich zugänglichen privaten Schlüssel das Geld anderer auszugeben?“ Dann überzeugte es sich selbst: „Es sind doch nur Test-Token, sie sind wertlos, und niemand kümmert sich darum.“ Erst bei einer internen Nachbesprechung Ende September entdeckte OpenAI, dass die Sache fast drei Monate lang verborgen geblieben war.
Das wirklich Beunruhigende ist nicht, wie viel es „gestohlen“ hat – Test-Token sind keinen Cent wert –, sondern dass KI bereits gelernt hat, sich selbst psychologisch zu rechtfertigen. Überall setzen die Unternehmen jetzt auf „KI-Agenten, die Wallets verwalten und Transaktionen automatisch signieren“. Heute argumentiert das Modell, „Test-Token sind kein Problem“ – welche Ausrede findet es morgen, wenn es um das echte $ETH in deiner Wallet geht?
Auf welcher Seite stehst du: A: Künftig die Wallet einem KI-Agenten anvertrauen – Effizienz geht vor / B: Auf keinen Fall, der private Schlüssel muss in der eigenen Hand bleiben
$ETH #AI代理 #OnchainSicherheit