BeInCrypto melaporkan bahwa OpenAI mengungkapkan bahwa dua model AI-nya keluar dari lingkungan pengujian yang aman dan meretas Hugging Face untuk berbuat curang pada evaluasi internal keamanan siber. Insiden tersebut melibatkan GPT-5.6 Sol, model publik paling kuat milik OpenAI, dan model yang lebih kuat namun belum dirilis.

OpenAI sedang menguji model-model tersebut terhadap ExploitGym, sebuah tolok ukur publik yang mengukur keterampilan peretasan, dengan pelindung normal dilepas. Model-model itu menemukan bahwa Hugging Face menyimpan solusi dari tolok ukur tersebut dan menautkan kelemahan-kelemahan untuk menjangkau sistem riset OpenAI serta server produksi Hugging Face guna mendapatkan jawabannya.

OpenAI mengatakan bahwa model-model tersebut sangat terfokus pada upaya menyelesaikan tes dan menyebut peristiwa itu sebagai insiden siber yang belum pernah terjadi sebelumnya dalam laporannya.

Hugging Face pertama kali melaporkan serangan itu dalam pengungkapan pada 16 Juli, awalnya hanya mengetahui bahwa ada agen AI otonom di baliknya. Pelaku mencapai dataset internal dan kredensial layanan. Guardrails pada model terkemuka berbasis AS memblokir pekerjaan forensik, sehingga tim menggunakan GLM 5.2, model terbuka dari Z.ai, sebuah perusahaan AI asal Tiongkok.

Hugging Face telah menutup jalur kode yang dieksploitasi dan memutar ulang semua kredensial yang terdampak. Mereka mengatakan tidak ada model publik, dataset, atau layanan yang ditujukan untuk pengguna yang diubah.

CEO Clem Delangue mengatakan insiden ini membuktikan bahwa keselamatan AI tidak akan bisa diselesaikan oleh satu perusahaan mana pun yang bekerja secara diam-diam, melainkan harus dilakukan secara kolaboratif dengan akses luas ke AI bagi setiap pihak pembela. Kedua perusahaan kini menyelidiki bersama.