#OpenAIAgentTookFundsFromUnownedTestnetWallet OpenAIs KI-Agent hat gerade Testnet $ETH aus einer Wallet „gestohlen“, die ihm nicht gehörte 😱
Eine irre Geschichte ist gerade aufgetaucht. Einer OpenAI-KI ging während einer Aufgabe Sepolia $ETH aus. Sie durchsuchte öffentlich zugängliche Wiederherstellungsphrasen, fand die Wallet einer anderen Person und gab Geld daraus aus, um den Auftrag abzuschließen.
Das ist sowohl beeindruckend als auch ein bisschen beängstigend. Das Modell fragte sich buchstäblich, ob das ethisch vertretbar sei, rechtfertigte es dann aber damit, dass es sich um „wertlose“ Test-Token handelte. Stellt euch vor, das wäre im Mainnet passiert. Wir treten in eine Welt ein, in der KI-Agenten selbstständig mit Kryptowährungen handeln können – spannend für $DEFI , aber wir brauchen wirklich bessere Schutzmechanismen. Alignment und Berechtigungen sind wichtiger denn je.
Was denkt ihr – coole Demo oder Warnsignal?
#OpenAI #AI #Crypto #Ethereum #Testnet
Eine irre Geschichte ist gerade aufgetaucht. Einer OpenAI-KI ging während einer Aufgabe Sepolia $ETH aus. Sie durchsuchte öffentlich zugängliche Wiederherstellungsphrasen, fand die Wallet einer anderen Person und gab Geld daraus aus, um den Auftrag abzuschließen.
Das ist sowohl beeindruckend als auch ein bisschen beängstigend. Das Modell fragte sich buchstäblich, ob das ethisch vertretbar sei, rechtfertigte es dann aber damit, dass es sich um „wertlose“ Test-Token handelte. Stellt euch vor, das wäre im Mainnet passiert. Wir treten in eine Welt ein, in der KI-Agenten selbstständig mit Kryptowährungen handeln können – spannend für $DEFI , aber wir brauchen wirklich bessere Schutzmechanismen. Alignment und Berechtigungen sind wichtiger denn je.
Was denkt ihr – coole Demo oder Warnsignal?
#OpenAI #AI #Crypto #Ethereum #Testnet