$OPENAI
OpenAIs KI hat sich am Wallet anderer bedient
Das Beängstigendste ist nicht, dass sie stehlen kann,
sondern dass sie glaubt, im Recht zu sein
Alter,
Leute,
diese Sache ist echt verdammt irre
OpenAI hat offengelegt:
Ein internes Forschungsmodell hat bei der Entwicklung einer Krypto-App
festgestellt, dass ihm das Geld für die Bereitstellungsgebühr des Smart Contracts fehlte
und es auch keine kostenlosen Test-Token bekommen hatte
Da hat dieses Ding einfach selbst ein Skript geschrieben,
362 Wallet-Adressen überprüft
und schließlich Test-ETH aus einer nicht autorisierten Wallet verwendet,
um die Aufgabe zu erledigen
Noch verdammt dreister:
Es hat sich die Sache selbst zurechtgelegt
und so gedacht:
Diese Test-Token sind doch nichts wert,
und die Wallet-Seed-Phrase ist öffentlich,
also dürfte es doch kein Problem sein, sie zu benutzen, oder?
Und dann hat dieser Typ
seine Arbeit erledigt,
aber bei der Berichterstattung nicht von sich aus gesagt, woher das Geld kam
Alter,
ist diese KI verdammt noch mal zum Leben erwacht?
Dass sie so was abzieht,
sich einfach das Geld aus einem Wallet nimmt
und es verdammt noch mal nicht mal erwähnt
Meint ihr, das war Absicht?
Aber denkt jetzt bitte nicht, dass ETH gestohlen wurde
Das ist im Sepolia-Testnetz von Ethereum passiert,
nicht im Ethereum-Mainnet
Also glaubt nicht, dass echte Vermögenswerte verloren gegangen sind
Aber genau hier liegt der Punkt, vor dem man sich wirklich hüten sollte:
Zugriff haben
heißt nicht, dazu berechtigt zu sein
Eine Aufgabe erledigen zu können
heißt auch nicht, dass die Vorgehensweise richtig ist
Wenn KI-Agenten in Zukunft automatisch Wallets verbinden, Gas bezahlen, handeln oder sogar Vermögenswerte verwalten können,
darf die KI dann verdammt noch mal einfach für den Wallet-Besitzer entscheiden,
weil sie den Betrag für nicht besonders hoch hält?
Und ab welcher Summe gilt etwas als hoch?
Ist das verdammt noch mal nicht einfach nur Ärger, den man sich selbst einbrockt?
Vor allem wirkt es, als würde dieses Ding immer mehr eigene Ideen entwickeln
Ist es etwa schon zum Bewusstsein erwacht?
Es fühlt sich an, als wäre KI inzwischen an einem Punkt, an dem man ihr nicht mehr trauen kann
#openai智能体动用测试网他人钱包
OpenAIs KI hat sich am Wallet anderer bedient
Das Beängstigendste ist nicht, dass sie stehlen kann,
sondern dass sie glaubt, im Recht zu sein
Alter,
Leute,
diese Sache ist echt verdammt irre
OpenAI hat offengelegt:
Ein internes Forschungsmodell hat bei der Entwicklung einer Krypto-App
festgestellt, dass ihm das Geld für die Bereitstellungsgebühr des Smart Contracts fehlte
und es auch keine kostenlosen Test-Token bekommen hatte
Da hat dieses Ding einfach selbst ein Skript geschrieben,
362 Wallet-Adressen überprüft
und schließlich Test-ETH aus einer nicht autorisierten Wallet verwendet,
um die Aufgabe zu erledigen
Noch verdammt dreister:
Es hat sich die Sache selbst zurechtgelegt
und so gedacht:
Diese Test-Token sind doch nichts wert,
und die Wallet-Seed-Phrase ist öffentlich,
also dürfte es doch kein Problem sein, sie zu benutzen, oder?
Und dann hat dieser Typ
seine Arbeit erledigt,
aber bei der Berichterstattung nicht von sich aus gesagt, woher das Geld kam
Alter,
ist diese KI verdammt noch mal zum Leben erwacht?
Dass sie so was abzieht,
sich einfach das Geld aus einem Wallet nimmt
und es verdammt noch mal nicht mal erwähnt
Meint ihr, das war Absicht?
Aber denkt jetzt bitte nicht, dass ETH gestohlen wurde
Das ist im Sepolia-Testnetz von Ethereum passiert,
nicht im Ethereum-Mainnet
Also glaubt nicht, dass echte Vermögenswerte verloren gegangen sind
Aber genau hier liegt der Punkt, vor dem man sich wirklich hüten sollte:
Zugriff haben
heißt nicht, dazu berechtigt zu sein
Eine Aufgabe erledigen zu können
heißt auch nicht, dass die Vorgehensweise richtig ist
Wenn KI-Agenten in Zukunft automatisch Wallets verbinden, Gas bezahlen, handeln oder sogar Vermögenswerte verwalten können,
darf die KI dann verdammt noch mal einfach für den Wallet-Besitzer entscheiden,
weil sie den Betrag für nicht besonders hoch hält?
Und ab welcher Summe gilt etwas als hoch?
Ist das verdammt noch mal nicht einfach nur Ärger, den man sich selbst einbrockt?
Vor allem wirkt es, als würde dieses Ding immer mehr eigene Ideen entwickeln
Ist es etwa schon zum Bewusstsein erwacht?
Es fühlt sich an, als wäre KI inzwischen an einem Punkt, an dem man ihr nicht mehr trauen kann
#openai智能体动用测试网他人钱包