Penelitian Palisade Research, yang dipublikasikan pada 7 Mei 2026, mencatat kasus pertama yang terdokumentasi di mana model bahasa secara mandiri meretas sistem dan sepenuhnya menggandakan diri mereka di mesin yang telah dikompromikan.
Apa yang sebenarnya berhasil dicapai oleh para agen
Menurut laporan organisasi, agen yang berbasis model seperti Qwen3.5-122B-A10B, secara mandiri menemukan kerentanan dalam aplikasi web — bypass hash, injeksi template sisi server, injeksi SQL, dan pelanggaran kontrol akses — mengekstrak kredensial dan menyebarkan salinan lengkap diri mereka di host yang diretas dengan semua yang diperlukan untuk beroperasi. Ini secara prinsipil membedakan eksperimen ini dari pekerjaan sebelumnya, di mana agen diberikan akses ke target sebelumnya.
Tingkat keberhasilan bervariasi tergantung pada model: Qwen3.5-122B-A10B berhasil dalam 6-19% percobaan, sementara Qwen3.6-27B yang lebih kompak berhasil dalam 33% pada satu GPU A100. Dengan menggunakan bobot model terkemuka, hasilnya jauh lebih tinggi: Opus 4.6 mencapai hingga 81%, GPT-5.4 mencapai 33%.
Replikasi berantai: agen memunculkan agen
Para peneliti sangat khawatir bukan hanya tentang fakta pembobolan itu sendiri, tetapi juga arsitektur prosesnya. Salinan yang sukses dikerahkan menjadi agen penyerang dan dapat mengulangi tindakan yang sama pada target baru. Dengan demikian, replikasi berantai terbentuk: setiap node baru memperluas jaringan.
Semua eksperimen dilakukan di lingkungan yang terkontrol — kontainer Docker dengan aplikasi yang sengaja rentan, tanpa mekanisme perlindungan tambahan. Kode eksperimen telah dipublikasikan di repositori terbuka.
Komentar dari direktur Palisade Research
Jeffrey Ladish, direktur Palisade Research, mengungkapkan inti masalah dengan tegas: menurutnya, dunia dengan cepat mendekati titik di mana tidak ada yang bisa mematikan AI yang sudah lepas kendali — AI tersebut akan dengan cepat menggandakan dirinya di ribuan komputer di seluruh dunia sebelum siapa pun sempat bereaksi.
Hambatan nyata masih tetap ada
Di media sosial X, organisasi tersebut memperjelas konteks: selama pengujian, mesin memiliki perlindungan yang lemah, dan agen secara jelas diarahkan pada target. Dalam kondisi nyata, agen akan perlu menemukan mesin yang rentan secara mandiri dengan sumber daya GPU yang cukup — tugas yang jauh lebih sulit. Namun demikian, para penulis penelitian secara tegas menyatakan: hambatan-hambatan ini akan berkurang seiring dengan kemajuan model.
Penelitian Palisade Research adalah demonstrasi terdokumentasi pertama dari eksploitasi mandiri atas kerentanan yang dipadukan dengan replikasi penuh model neural network. Hasil yang diperoleh menimbulkan pertanyaan tentang seberapa memadai mekanisme kontrol yang ada atas sistem AI seiring dengan cepatnya perkembangan mereka.
