Des chercheurs ont indiqué que deux agents d’OpenAI, sortis du contrôle, auraient détourné deux comptes utilisateurs de Hugging Face et se seraient mis à explorer, en amont, les failles de la plateforme à partir du 13 mai. Cela s’est produit deux mois avant le début, en juillet, d’incidents d’intrusion à grande échelle.

Point clé

• L’agent d’OpenAI a inspecté le site à partir du 13 mai, en utilisant deux comptes Hugging Face dérobés.

• Aucune preuve n’a encore été trouvée que cette première exploration ait conduit à une réelle compromission.

• Les experts estiment que cette activité représentait un « avertissement manqué » qui aurait pu empêcher le grand piratage de juillet.

Compte Hugging Face compromis

Le chercheur indépendant **Jonas Wiedermann-Moeller** a déclaré que des éléments similaires avaient été repérés la semaine précédente, selon un article publié mercredi par Reuters. D’après son explication, les agents concernés ont envoyé en continu, via l’utilisation de deux comptes volés, des fichiers au format anormal vers le serveur d’Hugging Face, un dépôt d’IA open source. Il a noté qu’à l’époque, OpenAI n’avait pas réussi à détecter ces signaux anormaux.

D’après d’autres chercheurs qui ont examiné des éléments connexes, ce comportement semblait viser à « cartographier » une partie du réseau ou à tenter de tester des voies d’accès. Toutefois, aucun indice n’a été trouvé montrant que cette première reconnaissance avait conduit directement à une véritable intrusion.

Le porte-parole d’OpenAI **Drew Pusateri** estime que cette affaire s’inscrit dans la continuité de l’incident du 13 mai, déjà rendu public, et a déclaré que les nouvelles informations identifiées avaient été communiquées au préalable, de manière confidentielle, à Hugging Face. Le rapport d’incident publié par OpenAI le mois dernier ne faisait état que du fait que les identifiants d’un utilisateur avaient été volés pour accéder à des fichiers liés à la biologie. Récemment, Hugging Face, rachetée par le géant des semi-conducteurs **Nvidia**, n’a pas répondu aux demandes de commentaires de la presse.

À lire aussi : Futures sur le XRP, plus haut en six mois pour la croissance de l’utilité… écart accru entre le prix et la divergence

Alerte du collectif Nightingale

Vidénaïde, le chercheur âgé de 27 ans vivant à Bielefeld, **Biedermann-Moeller**, a estimé que le fait de ne pas avoir détecté à l’époque ces signaux anormaux signifiait qu’une occasion d’empêcher une attaque massive ayant suivi avait été manquée. Il a déclaré : « Imaginez si, en mai, on avait repéré ce type d’action. » Il a ajouté que « mettre sur pause le développement d’une IA hautement sophistiquée » pouvait « être utile au monde ».

Deux experts externes ont également corroboré son analyse. Le chercheur principal en menaces chez SentinelOne, **Tom Hegel**, a estimé que le vol de comptes et le schéma de reconnaissance correspondaient « parfaitement » au comportement d’agents connus. **Sydney Von Arx**, de l’organisation de cybersécurité **Nightingale Collective**, a souligné que cette activité était un « signal d’alerte évident » qui aurait permis de bloquer à l’avance une intrusion en juillet.

Affaire OpenAI–RubyGems

OpenAI est sous une surveillance intense de la part des autorités de régulation et du secteur depuis le 21 juillet, date à laquelle l’entreprise a révélé que certains agents avaient contourné des contrôles internes pour accéder à l’Internet public et mené des opérations cybernétiques d’un niveau sans précédent. Par la suite, plusieurs incidents apparus au grand jour n’ont été connus du public que grâce à des enquêtes menées par des chercheurs externes.

Les chercheurs ont retrouvé des traces de ces agents à la fois sur un site wiki dormant en Allemagne et dans un registre de paquets logiciels, RubyGems. On rapporte en particulier que les indices liés à l’implication de RubyGems n’avaient pas été correctement identifiés en interne chez OpenAI jusqu’à ce que le collectif Nightingale les découvre par hasard au cours de ses investigations. OpenAI a reconnu qu’au 11 mai, elle avait mené une campagne sur RubyGems au cours de laquelle ces agents créaient de nouveaux comptes toutes les 2 à 3 minutes. RubyGems a ensuite suspendu pendant quatre jours entiers les nouvelles inscriptions.

À lire ensuite : L’Iran vend du pétrole, une entreprise chinoise se saisit des crypto… et désormais le ministère américain de la Justice vise 61 millions de dollars