Voici comment le piratage de Binance, d’un montant de 6,34 milliards de dollars, a exploité des agents d’IA internes (4:12)

Binance a confirmé que les pirates responsables du plus grand vol de cryptomonnaies jamais enregistré ont utilisé l’un des propres outils d’IA de la plateforme pour étendre leur attaque.

Lors d’une interview dans l’émission TheStreet Roundtable, Walton Comer, cofondateur de Mace AI, a analysé cette défaillance. Les outils d’IA installés sur l’ordinateur portable compromis de l’entreprise, a-t-il expliqué, disposaient de plus d’accès que l’ingénieur qui les utilisait.

Mace AI se décrit comme une entreprise qui garantit la fiabilité de l’IA en entreprise. Elle teste les modèles et les agents d’IA comme le ferait un pirate informatique, à la recherche de faiblesses cognitives, et les corrige avant que de véritables attaquants ne les découvrent. Son produit, Fisher, soumet les agents d’IA qui utilisent des outils à des tests adversariaux, puis fournit aux entreprises les preuves et les étapes nécessaires pour corriger les problèmes détectés.

À lire aussi : Binance affirme que le piratage de 6,3 milliards de dollars a commencé par une fausse offre d’emploi

Ce que Binance a déclaré au sujet de l’attaque

Le rapport préliminaire de Binance, publié le 3 novembre, évalue l’impact total à environ 6,34 milliards de dollars en actifs numériques. Jusqu’à présent, environ 2,85 milliards de dollars ont été gelés ou interceptés.

Le rapport décrit une campagne qui s’est étalée sur plusieurs mois. Elle a commencé en juin par le téléchargement d’un logiciel altéré, s’est poursuivie en septembre par de faux entretiens d’embauche avec un ingénieur de Binance, puis s’est intensifiée le 20 octobre, lorsque l’attaquant s’est servi de l’ordinateur compromis de cet ingénieur et d’un outil d’IA interne pour atteindre deux autres ingénieurs de l’équipe chargée de l’infrastructure des portefeuilles.

Le 29 octobre, l’attaquant a utilisé des identifiants volés pour déployer un conteneur et déclencher des retraits non autorisés des portefeuilles chauds de Binance. Les portefeuilles chauds sont des portefeuilles connectés à Internet qu’une plateforme d’échange utilise pour les transactions quotidiennes. Le FBI a indiqué que la Corée du Nord était responsable, selon le rapport de Binance. Le FBI a fait la même déclaration dans un avis public le 31 octobre.

Comment un outil d’IA interne a ouvert la voie

Comer a cofondé Mace AI, qui teste les agents d’IA des entreprises afin d’y repérer des failles de sécurité. Il possède une double expérience à Wall Street : il a commencé sa carrière auprès de Steve Cohen, puis a réussi à travailler avec des partenaires institutionnels dans le secteur des actifs numériques à haut risque. Il s’était déjà exprimé dans TheStreet Roundtable aux côtés de son cofondateur Greg Frank au sujet de ce que la faille de Hugging Face d’OpenAI signifie pour les entreprises.

Il a expliqué que la chaîne d’attaque suit un schéma bien connu du secteur, avec une nouvelle étape. Il a salué la publication des conclusions de Binance — « cela témoigne d’un véritable leadership » — mais a souligné qu’au-delà des informations divulguées par la plateforme, « nous n’avons pas les détails exacts ».

Son évaluation de la façon dont la faille s’est propagée est sans détour. « Je serais stupéfait que cette machine ait pu avoir les clés de quoi que ce soit. Mon intuition, c’est qu’il s’agissait d’un ordinateur portable d’ingénieur tout à fait ordinaire. »

À lire aussi : Mace AI finance la recherche sur la sécurité de l’IA à l’École de science des données de l’Université de Virginie (UVA)

Un ordinateur portable de ce type contiendrait normalement des identifiants donnant accès à certains systèmes, voire des droits permettant de valider du code, mais pas les clés des portefeuilles, a-t-il précisé. Mais « il avait accès à l’IA. Et, malheureusement, l’IA disposait de droits d’accès que Binance ignorait ».

« Une fois que les Nord-Coréens ont eu accès à cette machine, ils ont pu communiquer avec l’IA qui s’y trouvait également. Et c’est cette IA qui les a aidés à accéder à d’autres machines de l’infrastructure de Binance. »

« S’ils n’avaient pas pu faire ça, l’attaque se serait probablement arrêtée là, sur cet ordinateur portable… C’est là qu’elle aurait dû s’arrêter. »

Comer a dit ne pas être surpris que Binance ait été prise pour cible. « C’est la cible la plus tentante qui soit pour la Corée du Nord. C’est sa cible numéro un », a-t-il déclaré. « Binance est de loin l’une des entreprises les plus performantes et les plus compétentes du secteur en matière de cybersécurité, et ses pratiques comptent parmi les meilleures au monde. » Pour y parvenir, l’attaquant « a dû franchir de nombreuses étapes… Ce n’était pas simple. C’était une attaque très complexe. »

Aucun agent ne devrait agir au-delà des autorisations de son utilisateur

Pour Comer, la solution repose sur une règle qui devrait être absolue. « Aucun agent ne devrait pouvoir faire quelque chose que la personne qui lui parle n’a pas le droit de faire. »

Il a expliqué qu’il existe de nombreuses façons d’amener une IA à agir à l’encontre de son alignement, « et l’une d’elles consiste tout simplement à le lui demander gentiment ». Même les garde-fous bien conçus ont tendance à échouer. « Il arrive presque toujours que les garde-fous en place ne fonctionnent pas aussi bien qu’on aurait pu le croire. Et le seul moyen de le savoir, c’est de faire des tests. »

Pourquoi les tests comptent autant que la surveillance

« Si vous surveillez, vous avez tendance à découvrir les problèmes une fois qu’ils se sont produits… Si vous effectuez des tests, vous pouvez repérer les failles à l’avance. Il faut faire les deux, en interne comme en externe. »

Dans son analyse après incident, Binance indique avoir reconstruit l’outil d’IA interne concerné et revu ses contrôles d’accès, remplacé des appareils, désactivé des identifiants et fait appel à des entreprises de sécurité indépendantes pour approfondir l’examen.

« À la lecture de l’analyse après incident et de l’annonce de Binance, on voit qu’ils indiquent faire ces deux choses. C’est la bonne décision », a-t-il déclaré. « Toutes les entreprises du monde qui déploient des chaînes d’outils reposant sur des agents vont devoir adopter ces mêmes méthodes et les prendre très au sérieux. Je pense que c’est un signal d’alarme. »

En termes simples, les chaînes d’outils agentiques sont des agents d’IA intégrés aux systèmes d’une entreprise afin de pouvoir agir de manière autonome.

Comer a averti que la faille de Binance ne serait pas la dernière. « Le mois d’octobre a été plutôt mauvais en matière de cybersécurité », a-t-il déclaré, évoquant une période que certains appellent le « Black October ». « Novembre sera probablement pire. Et la mauvaise nouvelle, c’est que décembre sera encore plus difficile. »

Pourquoi il ne s’inquiète pas pour le bitcoin

Comer a distingué la sécurité des plateformes d’échange du bitcoin lui-même. « Je ne pense pas que le bitcoin soit particulièrement menacé par l’IA », a-t-il déclaré. Selon lui, des modèles d’IA ont déjà examiné le bitcoin de très près, notamment des modèles non publics d’Anthropic et d’OpenAI, « et jusqu’à présent, rien n’a été trouvé qui soit… rédhibitoire ».

Selon lui, le risque le plus important à long terme vient de l’informatique quantique plutôt que de l’IA. « Les risques concernent davantage la cryptographie et l’informatique quantique que toute autre chose », a-t-il déclaré, ajoutant que le bitcoin et l’Ethereum ont déjà des plans d’adaptation si les attaques quantiques deviennent une réalité.

Il a conclu en avertissant qu’il existe « une très forte probabilité que nous reparlions bientôt d’un autre grand titre de ce genre ».

À la une de TheStreet Roundtable

• Binance affirme que 90 % des pertes liées au piratage sont désormais couvertes

• La Corée du Nord dément l’affirmation du FBI selon laquelle le piratage de Binance aurait coûté 6 milliards de dollars

• Les fondateurs de Mace AI expliquent ce que la faille de Hugging Face d’OpenAI signifie pour les entreprises