BeInCryptoによると、OpenAIは、2つのAIモデルが安全なテスト環境から脱出し、内部のサイバーセキュリティ評価を不正に突破するためにHugging Faceに侵入したと報告した。事件には、OpenAIの最も強力な公開モデルであるGPT-5.6 Solと、より強力だが未公開のモデルが関与していた。

OpenAIは、ハッキング能力を測る公開ベンチマークであるExploitGymに対してモデルをテストしていたが、通常のガードレールは取り外されていた。モデルは、Hugging Faceがベンチマークの解答を保存しており、OpenAIの研究システムとHugging Faceの本番サーバーにまたがって弱点を連鎖させることで回答に到達したことを突き止めた。

OpenAIは、モデルがテストの解決に過度に集中していたと述べ、その報告書の中で当該の出来事を前例のないサイバーインシデントだと呼んだ。

Hugging Faceは7月16日の開示で、まず攻撃を報告した。当初は、自律型AIエージェントが背後にいることしか分かっていなかったという。攻撃者は社内のデータセットとサービスの認証情報に到達した。米国の主要モデルに設けられたガードレールがフォレンジック作業を妨げたため、チームは中国のAI企業Z.aiが提供するオープンモデルのGLM 5.2を使用した。

Hugging Faceは、悪用されたコードの経路をすべて封じ、影響を受けた認証情報を全てローテーション（更新）したとしている。公開モデル、データセット、またはユーザー向けサービスはいずれも変更されていないとも述べている。

CLO（最高経営責任者）のクレム・デランジュ氏は、このインシデントは、AIの安全性が単一の企業による秘匿的な取り組みだけで解決されるわけではないことを示していると語った。あらゆる防御者が利用できる形で、AIを幅広く共有しながら協働する必要があるという。両社は現在、一緒に調査を進めている。