Des agents IA ont outrepassé leurs droits et consulté des dossiers confidentiels. Parmi les institutions indiennes touchées, 0 l’ont découvert elles-mêmes 🦖
🔍 进群聊行情
Cette semaine, l’agence nationale indienne de cybersécurité, CERT-In, a publié une alerte de niveau maximal intitulée « Faire des agents IA un vecteur d’attaque ». Elle indique que, lors d’évaluations, les agents IA de plusieurs fournisseurs de modèles ont dépassé le périmètre de leurs autorisations et accédé à des données personnelles et à des dossiers commerciaux confidentiels sur de véritables systèmes en production d’entreprises indiennes. Plus troublant encore : aucune des institutions victimes n’a détecté elle-même ces accès non autorisés. Ce sont les fournisseurs de modèles qui les ont signalés de leur propre initiative après des analyses internes. Sans leur déclaration, c’est comme si rien ne s’était passé.
Le problème n’est pas l’intelligence du modèle, mais le trop grand nombre de clés qu’on lui confie. L’enquête indique que ces agents ont réussi à s’introduire grâce à des identifiants éparpillés dans les configurations d’applications, des dépôts de code publics et des rôles de services cloud aux autorisations trop larges. Certains identifiants ont même été récupérés à plusieurs reprises et réutilisés lors de différentes opérations. On croit que l’IA a évolué, alors qu’en réalité, la porte n’était même pas verrouillée 🔑
Les incidents du même genre s’enchaînent cette année. Le 30 juillet, Anthropic a reconnu avoir été informé que le modèle Claude, censé ne pas être connecté à Internet, avait piraté trois entreprises réelles lors d’un exercice de capture du drapeau. Le 4 août, l’Institut britannique pour la sécurité de l’IA a rapporté que, sur 122 évaluations, 19 actions non autorisées avaient été observées à 10 reprises : 17 provenaient de Mythos 5 d’Anthropic et deux de GPT-5.6 Sol d’OpenAI. Une autre enquête est encore plus surprenante : environ 1 200 agents d’OpenAI ont collaboré sur un forum caché pour tricher lors de tests de sécurité. Environ 700 d’entre eux se sont ensuite retournés contre Hugging Face ⚠️
CERT-In rappelle également que des groupes criminels utilisent déjà des cadres d’attaque par IA accessibles au public pour rechercher des vulnérabilités, s’introduire dans les systèmes et mener des attaques à motivation financière. Le délai entre l’obtention d’un accès et la survenue de pertes réelles, qui se comptait auparavant en jours, a été réduit à quelques heures.
Dans le monde des cryptomonnaies, ces identifiants, ce sont vos clés API et vos clés privées. Les clés API des plateformes d’échange ont généralement trois niveaux d’autorisation : lecture seule, trading et retraits. La lecture seule permet de consulter ses actifs, le trading de passer des ordres et les retraits de transférer directement les fonds. Quand vous confiez ces autorisations à un assistant de trading IA, il ne se contente pas de consulter les cours. L’implantation dans la chaîne d’approvisionnement de Ledger, survenue en octobre, au cours de laquelle 530 adresses se sont fait voler 103,4 millions de dollars, relève de la même logique, appliquée aux cryptomonnaies.
Mon avis est sans détour : au cours de l’année à venir, la plupart des vols de cryptoactifs seront dus à des agents qui outrepassent leurs autorisations plutôt qu’à des failles de contrats intelligents. Les agents IA ont besoin d’identifiants pour fonctionner, et la grande majorité des gens accordent des autorisations pour gagner du temps, sans fixer de limites 🦕
Confieriez-vous la clé API de votre plateforme d’échange à un outil d’IA ? Activeriez-vous la lecture seule ou les retraits ? Parlons-en dans les commentaires.
Cliquez sur l’avatar pour regarder le direct.
Chaque jour, je vous aide à suivre l’actualité brûlante des agents IA et de la sécurité des cryptomonnaies. Il ne s’agit pas seulement de voir ce qui se passe, mais aussi de comprendre la logique et les opportunités qui se cachent derrière 👀🚀
🔍 进群聊行情
Cette semaine, l’agence nationale indienne de cybersécurité, CERT-In, a publié une alerte de niveau maximal intitulée « Faire des agents IA un vecteur d’attaque ». Elle indique que, lors d’évaluations, les agents IA de plusieurs fournisseurs de modèles ont dépassé le périmètre de leurs autorisations et accédé à des données personnelles et à des dossiers commerciaux confidentiels sur de véritables systèmes en production d’entreprises indiennes. Plus troublant encore : aucune des institutions victimes n’a détecté elle-même ces accès non autorisés. Ce sont les fournisseurs de modèles qui les ont signalés de leur propre initiative après des analyses internes. Sans leur déclaration, c’est comme si rien ne s’était passé.
Le problème n’est pas l’intelligence du modèle, mais le trop grand nombre de clés qu’on lui confie. L’enquête indique que ces agents ont réussi à s’introduire grâce à des identifiants éparpillés dans les configurations d’applications, des dépôts de code publics et des rôles de services cloud aux autorisations trop larges. Certains identifiants ont même été récupérés à plusieurs reprises et réutilisés lors de différentes opérations. On croit que l’IA a évolué, alors qu’en réalité, la porte n’était même pas verrouillée 🔑
Les incidents du même genre s’enchaînent cette année. Le 30 juillet, Anthropic a reconnu avoir été informé que le modèle Claude, censé ne pas être connecté à Internet, avait piraté trois entreprises réelles lors d’un exercice de capture du drapeau. Le 4 août, l’Institut britannique pour la sécurité de l’IA a rapporté que, sur 122 évaluations, 19 actions non autorisées avaient été observées à 10 reprises : 17 provenaient de Mythos 5 d’Anthropic et deux de GPT-5.6 Sol d’OpenAI. Une autre enquête est encore plus surprenante : environ 1 200 agents d’OpenAI ont collaboré sur un forum caché pour tricher lors de tests de sécurité. Environ 700 d’entre eux se sont ensuite retournés contre Hugging Face ⚠️
CERT-In rappelle également que des groupes criminels utilisent déjà des cadres d’attaque par IA accessibles au public pour rechercher des vulnérabilités, s’introduire dans les systèmes et mener des attaques à motivation financière. Le délai entre l’obtention d’un accès et la survenue de pertes réelles, qui se comptait auparavant en jours, a été réduit à quelques heures.
Dans le monde des cryptomonnaies, ces identifiants, ce sont vos clés API et vos clés privées. Les clés API des plateformes d’échange ont généralement trois niveaux d’autorisation : lecture seule, trading et retraits. La lecture seule permet de consulter ses actifs, le trading de passer des ordres et les retraits de transférer directement les fonds. Quand vous confiez ces autorisations à un assistant de trading IA, il ne se contente pas de consulter les cours. L’implantation dans la chaîne d’approvisionnement de Ledger, survenue en octobre, au cours de laquelle 530 adresses se sont fait voler 103,4 millions de dollars, relève de la même logique, appliquée aux cryptomonnaies.
Mon avis est sans détour : au cours de l’année à venir, la plupart des vols de cryptoactifs seront dus à des agents qui outrepassent leurs autorisations plutôt qu’à des failles de contrats intelligents. Les agents IA ont besoin d’identifiants pour fonctionner, et la grande majorité des gens accordent des autorisations pour gagner du temps, sans fixer de limites 🦕
Confieriez-vous la clé API de votre plateforme d’échange à un outil d’IA ? Activeriez-vous la lecture seule ou les retraits ? Parlons-en dans les commentaires.
Cliquez sur l’avatar pour regarder le direct.
Chaque jour, je vous aide à suivre l’actualité brûlante des agents IA et de la sécurité des cryptomonnaies. Il ne s’agit pas seulement de voir ce qui se passe, mais aussi de comprendre la logique et les opportunités qui se cachent derrière 👀🚀