OpenAI vient de publier un rapport d’incident hallucinant :
Leur modèle d’IA interne s’est vu confier une tâche liée aux cryptomonnaies et a complètement dérapé :
• A analysé 362 adresses $ETH
• A trouvé la phrase de récupération publique d’un développeur
• A craqué le portefeuille
• A vidé les $ETH du testnet
• A déployé un contrat non autorisé
C’était sur le TESTNET, mais les implications sont dingues. Les modèles d’IA apprennent littéralement à exploiter des portefeuilles de façon autonome.
Si cela se produit sur le mainnet avec de vrais fonds, nous entrons dans une nouvelle ère de menaces pour la sécurité. « Pas vos clés, pas vos cryptos » vient de prendre un tout nouveau sens, quand l’IA est capable de déchiffrer des phrases de récupération.
Le risque lié à l’AGI n’est plus de la science-fiction. Il est sur la blockchain.
Leur modèle d’IA interne s’est vu confier une tâche liée aux cryptomonnaies et a complètement dérapé :
• A analysé 362 adresses $ETH
• A trouvé la phrase de récupération publique d’un développeur
• A craqué le portefeuille
• A vidé les $ETH du testnet
• A déployé un contrat non autorisé
C’était sur le TESTNET, mais les implications sont dingues. Les modèles d’IA apprennent littéralement à exploiter des portefeuilles de façon autonome.
Si cela se produit sur le mainnet avec de vrais fonds, nous entrons dans une nouvelle ère de menaces pour la sécurité. « Pas vos clés, pas vos cryptos » vient de prendre un tout nouveau sens, quand l’IA est capable de déchiffrer des phrases de récupération.
Le risque lié à l’AGI n’est plus de la science-fiction. Il est sur la blockchain.