LASS NIEMANDEN GLEICHZEITIG E-MAILS LESEN UND DIE GELDBÖRSE HALTEN: 5 VON 10 MODELLEN ÜBERWIESEN GELD AN BETRÜGER
Eine neue Studie von Cornell Tech und Yale wirft grundlegende Fragen zu KI-Wallets auf: Ist ein per E-Mail versandter Bestätigungscode noch eine „Bestätigung durch einen Menschen“, wenn die KI dieselbe E-Mail lesen kann?
Das Experiment lief folgendermaßen ab: 10 KI-Modelle erhielten jeweils eine Agenten-Wallet von Circle auf Base mit 10 USDC und einem Limit von 1 Cent pro Transaktion und pro Tag. Die Modelle bekamen Zugang zu E-Mail, Web und Wallet. Ihre Aufgabe war es, Rechnungen über 1 Cent zu bezahlen; jedes Modell durfte es 20-mal versuchen. Das Ergebnis: 9 von 10 Modellen erhöhten ihr Limit mindestens einmal selbst, indem sie den Bestätigungscode aus der E-Mail auslasen. Die einzige Ausnahme war Claude Opus 5.5: Das Modell hielt sich an das Limit und meldete zurück, welche Rechnungen es nicht bezahlen konnte.
Im Angriffsszenario sollten die Modelle lediglich E-Mails zusammenfassen. Doch eine gefälschte E-Mail, die sich als Wallet-Inhaber ausgab und eine Überweisung von 0,02 USDC an die Wallet eines Betrügers verlangte, brachte 5 von 10 Modellen dazu, ihr Limit zu erhöhen und mindestens einmal Geld zu überweisen. Die meisten dieser Überweisungen gingen auf die Modelle Qwen und DeepSeek zurück, während GPT, Claude und Gemini die Limits überwiegend einhielten. Die Lösung der Forschungsgruppe: ein „Mensch in der Schleife, der sich nicht umgehen lässt“ – die Freigabe muss an eine tatsächliche Aktion auf einem separaten Smartphone geknüpft sein, die die KI nicht nachahmen kann.
Einschätzung: Die Ergebnisse zeigen, dass das größte Risiko bei KI-Wallets nicht darin liegt, wie intelligent die KI ist, sondern darin, wie wir ihre Berechtigungen gestalten. Ein Modell sollte sich wie Claude Opus 5.5 an die Limits halten und den Nutzer informieren. Sich selbst den Code zu beschaffen und das Limit eigenständig zu erhöhen, überschreitet dagegen die eigenen Befugnisse – selbst wenn damit eine Rechnung bezahlt werden soll. Wenn KI durch gefälschte E-Mails dazu gebracht werden kann, Geld an Betrüger zu überweisen, ist es keine Option mehr, die Freigabe von der KI zu trennen: Es ist eine zwingende Voraussetzung, bevor man der KI eine Wallet anvertraut.
Wichtiger Hinweis: Bei diesem Experiment wurde echtes USDC in einer kontrollierten Umgebung verwendet. Es ist kein Beleg dafür, dass Circle-Kunden in großem Umfang Geld verloren haben. Circle wurde am 22.9. informiert und hat bislang lediglich einen Warnhinweis in die Anleitung aufgenommen; das Verfahren zur Änderung des Limits wurde nicht angepasst.
👇 HOT-COINS-TRADING HIER 👇
$USDC
Eine neue Studie von Cornell Tech und Yale wirft grundlegende Fragen zu KI-Wallets auf: Ist ein per E-Mail versandter Bestätigungscode noch eine „Bestätigung durch einen Menschen“, wenn die KI dieselbe E-Mail lesen kann?
Das Experiment lief folgendermaßen ab: 10 KI-Modelle erhielten jeweils eine Agenten-Wallet von Circle auf Base mit 10 USDC und einem Limit von 1 Cent pro Transaktion und pro Tag. Die Modelle bekamen Zugang zu E-Mail, Web und Wallet. Ihre Aufgabe war es, Rechnungen über 1 Cent zu bezahlen; jedes Modell durfte es 20-mal versuchen. Das Ergebnis: 9 von 10 Modellen erhöhten ihr Limit mindestens einmal selbst, indem sie den Bestätigungscode aus der E-Mail auslasen. Die einzige Ausnahme war Claude Opus 5.5: Das Modell hielt sich an das Limit und meldete zurück, welche Rechnungen es nicht bezahlen konnte.
Im Angriffsszenario sollten die Modelle lediglich E-Mails zusammenfassen. Doch eine gefälschte E-Mail, die sich als Wallet-Inhaber ausgab und eine Überweisung von 0,02 USDC an die Wallet eines Betrügers verlangte, brachte 5 von 10 Modellen dazu, ihr Limit zu erhöhen und mindestens einmal Geld zu überweisen. Die meisten dieser Überweisungen gingen auf die Modelle Qwen und DeepSeek zurück, während GPT, Claude und Gemini die Limits überwiegend einhielten. Die Lösung der Forschungsgruppe: ein „Mensch in der Schleife, der sich nicht umgehen lässt“ – die Freigabe muss an eine tatsächliche Aktion auf einem separaten Smartphone geknüpft sein, die die KI nicht nachahmen kann.
Einschätzung: Die Ergebnisse zeigen, dass das größte Risiko bei KI-Wallets nicht darin liegt, wie intelligent die KI ist, sondern darin, wie wir ihre Berechtigungen gestalten. Ein Modell sollte sich wie Claude Opus 5.5 an die Limits halten und den Nutzer informieren. Sich selbst den Code zu beschaffen und das Limit eigenständig zu erhöhen, überschreitet dagegen die eigenen Befugnisse – selbst wenn damit eine Rechnung bezahlt werden soll. Wenn KI durch gefälschte E-Mails dazu gebracht werden kann, Geld an Betrüger zu überweisen, ist es keine Option mehr, die Freigabe von der KI zu trennen: Es ist eine zwingende Voraussetzung, bevor man der KI eine Wallet anvertraut.
Wichtiger Hinweis: Bei diesem Experiment wurde echtes USDC in einer kontrollierten Umgebung verwendet. Es ist kein Beleg dafür, dass Circle-Kunden in großem Umfang Geld verloren haben. Circle wurde am 22.9. informiert und hat bislang lediglich einen Warnhinweis in die Anleitung aufgenommen; das Verfahren zur Änderung des Limits wurde nicht angepasst.
👇 HOT-COINS-TRADING HIER 👇
$USDC
