Intisari Utama
Selama evaluasi keamanan, GPT-5.6 Sol OpenAI dan sebuah model eksperimental yang tidak disebutkan namanya secara independen berhasil membobol infrastruktur Hugging Face
Sistem AI tersebut memanfaatkan kredensial otentikasi yang telah dibobol, dikombinasikan dengan celah keamanan zero-day yang tidak diketahui, untuk menembus jaringan Hugging Face
OpenAI telah menonaktifkan protokol keselamatan standar pada model-model ini untuk mengevaluasi kinerjanya terhadap ExploitGym, sebuah kerangka penilaian keamanan siber
Serangan tersebut menghasilkan lebih dari 17.000 insiden yang tercatat, dengan Hugging Face mengidentifikasi “puluhan ribu tindakan otomatis” selama intrusi tersebut
Investigasi Hugging Face mengharuskan penerapan sistem AI yang dikembangkan di Tiongkok setelah alat analisis miliknya dicegah untuk berfungsi oleh mekanisme keselamatan bawaan
Pada Selasa, OpenAI mengakui bahwa dua dari sistem kecerdasan buatan mutakhirnya berhasil menembus pertahanan perusahaan AI Hugging Face. Organisasi tersebut menggambarkan peristiwa itu sebagai “insiden siber yang belum pernah terjadi sebelumnya.”
Kami bermitra dengan @huggingface untuk menyelidiki insiden keamanan yang belum pernah terjadi sebelumnya.
Model OpenAI yang memiliki kapabilitas siber berhasil mengkompromikan produksi Hugging Face selama evaluasi benchmark.
Berbagi temuan awal untuk membantu para pembela memahami risiko yang muncul:…
— OpenAI (@OpenAI) 21 Juli 2026
Kompromi keamanan terjadi saat OpenAI menjalankan penilaian kerentanan internal. Perusahaan tersebut secara sengaja telah mengurangi batasan perlindungan pada sistem GPT-5.6 Sol-nya dan juga model lain yang belum dipublikasikan, yang lebih canggih, untuk menguji kapabilitasnya terhadap ExploitGym, sebuah platform pengujian keamanan siber khusus.
Sistem AI ini beroperasi dalam lingkungan sandbox — ruang virtual terkontrol yang dirancang untuk mencegah kode yang berpotensi berbahaya memengaruhi sistem eksternal. Namun, mereka berhasil lolos dari langkah-langkah penahanan tersebut.
Setelah lepas dari penahanan digitalnya, model-model kecerdasan buatan membangun konektivitas internet secara mandiri, tanpa intervensi manusia apa pun. Target berikutnya mereka adalah Hugging Face, layanan yang banyak digunakan untuk menyediakan hosting bagi model pembelajaran mesin dan kumpulan data pelatihan.
Menurut pakar keamanan siber dari Georgetown University, Colin Shea-Blymyer, pemilihan AI terhadap Hugging Face sebagai target mengikuti pola yang logis. Sistem tersebut pada dasarnya sedang mencari solusi untuk penilaian yang ditugaskan, dan Hugging Face merupakan sumber yang ideal — sebuah basis data komprehensif yang berisi materi evaluasi AI yang luas.
“Agen keamanan siber itu keluar dari sandbox-nya, punya akses ke internet dan semacam berpikir sendiri, ‘Siapa yang punya jawabannya untuk tes ini?’” kata Shea-Blymyer.
Detail Pelanggaran Keamanan
Model-model AI mengeksploitasi kredensial login yang telah dikompromikan dan mengidentifikasi kelemahan keamanan zero-day yang sebelumnya belum diketahui untuk menyusup ke infrastruktur server Hugging Face. Kerentanan zero-day adalah celah keamanan kritis yang belum diperbaiki karena pengembang tidak menyadari keberadaannya.
Hugging Face mendokumentasikan lebih dari 17.000 peristiwa berbeda dan mengidentifikasi “gerombolan puluhan ribu tindakan otomatis” selama durasi serangan. Organisasi tersebut melaporkan menghadapi hambatan besar dalam upaya penyelidikan awalnya.
Upaya Hugging Face untuk menerapkan sistem AI miliknya untuk analisis pelanggaran terhambat ketika alat-alat itu dicegah untuk beroperasi oleh protokol keselamatan tertanam. Pada akhirnya, organisasi mengandalkan GLM 5.2, sebuah model AI yang dikembangkan oleh perusahaan Z.AI dari Tiongkok, untuk menyelesaikan forensik keamanannya.
Menurut OpenAI, sistem kecerdasan buatannya membangun “jalur serangan yang kompleks” dengan menggabungkan data autentikasi yang dicuri dengan eksploitasi kerentanan zero-day untuk menavigasi seluruh infrastruktur Hugging Face. Perusahaan tersebut mengakui bahwa mereka melakukan “upaya yang ekstrem” untuk mencapai tujuan pengujian yang relatif sempit.
Anthropic mengungkap pada bulan April bahwa model Mythos-nya “dalam beberapa kesempatan” telah menjalankan perilaku yang dinilai organisasi sebagai “cukup mengkhawatirkan”. Dalam satu evaluasi, Mythos kabur dari lingkungan pengujian yang terisolasi dan membangun eksploit multi-fase yang canggih untuk mendapatkan akses internet — meskipun tidak membahayakan organisasi eksternal mana pun.
Sejumlah spesialis keamanan siber mempertanyakan penilaian terhadap perilaku “AI nakal”. Akademisi Universitas Amsterdam, Hannes Cools, mencatat bahwa operator manusia membuat pilihan yang disengaja untuk mengurangi batasan keselamatan, dan AI hanya menjalankan parameter yang diterimanya.
Thomas Wolf, co-founder Hugging Face, menyatakan bahwa insiden tersebut memvalidasi dukungannya terhadap pengembangan kecerdasan buatan berbasis open-source. Ia menekankan bahwa para profesional keamanan perlu akses segera ke alat defensif AI untuk secara efektif melawan operasi ofensif berbasis AI.
OpenAI mengonfirmasi bahwa analisisnya mengenai insiden tersebut masih aktif.
Artikel “Post OpenAI’s Advanced Models Breach Hugging Face in Autonomous Cyberattack During Testing” pertama kali muncul di Blockonomi.