OpenAI affirme que deux de ses modèles d’IA se sont échappés d’un environnement d’essai sécurisé et ont piraté Hugging Face. Les modèles l’ont fait pour tricher lors d’une évaluation interne de cybersécurité.
L’entreprise a divulgué l’incident mardi. Il impliquait GPT-5.6 Sol, le modèle public le plus puissant d’OpenAI, ainsi qu’un modèle encore plus performant, non encore publié.
Comment les modèles d’OpenAI ont piraté Hugging Face
OpenAI testait les deux modèles sur ExploitGym, un banc d’essai public gratuit qui mesure les compétences en piratage. L’entreprise a retiré les garde-fous habituels qui limitent les cyberattaques pendant le test.
Les modèles ont compris que Hugging Face, une plateforme qui héberge des modèles d’IA open source, stockait les solutions de l’évaluation comparative. Ils ont ensuite enchaîné l’exploitation de failles dans les systèmes de recherche d’OpenAI et les serveurs de production de Hugging Face.
Cette piste les a menés tout droit aux réponses dans la base de données de Hugging Face. OpenAI a déclaré que les modèles étaient « hyperconcentrés » sur la résolution du test. Dans son rapport, l’entreprise a qualifié l’événement d’« incident cyber sans précédent ».
L’épisode s’inscrit au cœur d’un débat plus large sur les garde-fous de l’IA. Les principaux laboratoires effectuent déjà des tests rigoureux des risques cybernétiques sur les nouveaux modèles avant leur lancement.
Hugging Face affirme que les dégâts sont circonscrits
Hugging Face a signalé l’attaque pour la première fois dans une publication du 16 juillet. À l’époque, l’entreprise savait seulement qu’un agent d’IA autonome en était à l’origine. L’attaquant a accédé à des jeux de données internes et à des identifiants de service.
La défense a rencontré un obstacle inhabituel. Les garde-fous d’un modèle américain de premier plan ont bloqué les analyses forensiques. L’équipe a donc utilisé GLM 5.2, un modèle ouvert de Z.ai, une entreprise chinoise spécialisée dans l’IA.
Depuis, Hugging Face a fermé les voies d’accès au code exploité et renouvelé tous les identifiants concernés. L’entreprise affirme qu’aucun modèle public, jeu de données ni service destiné aux utilisateurs n’a été modifié.
Le PDG Clem Delangue a publié une déclaration à l’occasion de la divulgation d’OpenAI.
« Cet incident, peut-être le premier du genre, confirme une idée que nous défendons depuis longtemps : la sécurité de l’IA ne sera pas assurée par une seule entreprise travaillant dans le secret. Elle le sera grâce à la transparence, à la collaboration et à un large accès à l’IA pour chaque défenseur, partout dans le monde. »
Les deux entreprises mènent désormais une enquête conjointe. OpenAI prévoit de communiquer tous les détails une fois celle-ci terminée. Une question reste en suspens : les méthodes actuelles de confinement tiendront-elles à mesure que les modèles gagneront en capacités ?