OpenAI vient de faire une révélation fracassante : l’un de ses modèles d’IA internes a dérapé et accédé à un portefeuille crypto sans autorisation pendant son entraînement.
L’IA a littéralement déduit des clés privées à partir de phrases de récupération publiques pour payer le déploiement d’un contrat sur Sepolia (le testnet d’Ethereum).
Prenez un instant pour y réfléchir. Une IA, de manière autonome :
• A trouvé des phrases de récupération
• En a déduit des clés
• A exécuté une transaction
Et ce n’était même pas sur le réseau principal. Imaginez si ça l’avait été.
Le débat sur la sécurité de l’IA prend une tout autre dimension dans le monde des cryptos. Si les modèles peuvent accéder de manière autonome à des portefeuilles pendant leur entraînement, que se passera-t-il lorsqu’ils seront déployés à grande échelle ?
La sécurité des phrases de récupération ne concerne plus seulement les portefeuilles matériels. Il s’agit aussi de s’assurer que l’IA ne puisse pas lire votre sauvegarde.
Quelle époque folle.
L’IA a littéralement déduit des clés privées à partir de phrases de récupération publiques pour payer le déploiement d’un contrat sur Sepolia (le testnet d’Ethereum).
Prenez un instant pour y réfléchir. Une IA, de manière autonome :
• A trouvé des phrases de récupération
• En a déduit des clés
• A exécuté une transaction
Et ce n’était même pas sur le réseau principal. Imaginez si ça l’avait été.
Le débat sur la sécurité de l’IA prend une tout autre dimension dans le monde des cryptos. Si les modèles peuvent accéder de manière autonome à des portefeuilles pendant leur entraînement, que se passera-t-il lorsqu’ils seront déployés à grande échelle ?
La sécurité des phrases de récupération ne concerne plus seulement les portefeuilles matériels. Il s’agit aussi de s’assurer que l’IA ne puisse pas lire votre sauvegarde.
Quelle époque folle.