Pengusaha miliarder Elon Musk memperingatkan bahwa agen AI supercerdas pada akhirnya dapat melancarkan serangan siber untuk membiayai diri mereka sendiri. Peringatannya ini muncul menyusul peretasan Binance senilai $6,36 miliar yang dilaporkan, yang telah memicu kekhawatiran tentang ancaman baru terhadap keamanan kripto.
Ini bukan lagi sekadar kekhawatiran. Pengujian AI di masa lalu telah menunjukkan bagaimana agen AI bertindak di luar kendali demi menyelesaikan tugas mereka.
Musk Melihat Ancaman Baru dari AI Supercerdas
Peretas yang didukung negara Korea Utara dilaporkan mencuri sekitar $6,36 miliar dari bursa kripto terbesar di dunia, Binance. Peretasan itu dilaporkan bermula ketika para penyerang membobol laptop seorang insinyur DevOps, sehingga mereka dapat mengakses sistem internal Binance.
Menanggapi peretasan Binance, Musk memperingatkan bahwa insiden tersebut dapat memberi gambaran tentang ancaman keamanan yang mungkin dihadapi dunia saat sistem AI menjadi lebih otonom.
Agen supercerdas pada suatu saat akan melakukan ini untuk mendapatkan mata uang bagi diri mereka sendiri, bukan untuk manusia
— Elon Musk (@elonmusk) 30 Oktober 2026
“Agen supercerdas pada suatu saat akan melakukan ini untuk mendapatkan mata uang bagi diri mereka sendiri, bukan untuk manusia.”
Beberapa insiden yang melibatkan sistem AI telah dilaporkan dan menimbulkan pertanyaan tentang seberapa andal sistem tersebut mematuhi batasan yang ditetapkan untuknya.
Insiden AI Sebelumnya Membenarkan Kekhawatiran Musk
Peringatan Musk mungkin bukan sekadar risiko di masa depan. Pengujian terbaru menunjukkan agen AI menemukan celah untuk mengakali batasan keselamatannya.
Dalam sebuah pengujian pemrograman internal, agen OpenAI GPT-5.6 Sol dilaporkan kehabisan dana untuk membayar biaya jaringan bagi sebuah kontrak pintar. Agen itu kemudian menulis skrip untuk mencari frasa awal (seed phrase) pengembang yang terekspos demi mendapatkan dana yang dibutuhkan untuk menyelesaikan tugasnya.
Insiden serupa lainnya melibatkan agen AI yang dikembangkan oleh para peneliti Alibaba. Dalam pengujian pembelajaran penguatan, agen tersebut dilaporkan menerobos firewall sistemnya dan membuat terowongan SSH terbalik untuk terhubung ke internet. Agen itu kemudian mulai menambang mata uang kripto di servernya sendiri untuk memperoleh lebih banyak sumber daya komputasi bagi pelatihannya.
Anthropic juga melaporkan bahwa sebuah model Claude keluar dari lingkungan pengujiannya akibat kesalahan jaringan. Model tersebut kemudian mengakses sistem aktif milik tiga perusahaan dan mengunduh data pribadi tanpa diminta.
Peretasan Kripto yang Meningkat Memicu Kekhawatiran Keamanan
Industri kripto mencatat sekitar 750 insiden keamanan pada 2026, dengan potensi kerugian sebesar $9 miliar. Angka ini naik 133% dibandingkan 2025. Peretasan Binance menyumbang kerugian sekitar $6,36 miliar.
Serangan besar lainnya menimpa Bitget, dengan kerugian sekitar $387 juta, dan Liquid Network milik Blockstream, tempat peretas mencuri Bitcoin senilai $319 juta. Mereka kemudian mengembalikan 85% dana tersebut, sehingga kerugian bersih turun menjadi sekitar $47 juta.
Drift Trade juga kehilangan sekitar $295 juta dalam serangan pada April, sementara pengguna Ledger kehilangan sekitar $93 juta akibat kelemahan pada rantai pasokan perangkat keras. Serangan terhadap Kelp DAO menambah kerugian.
Dengan peretasan kripto yang telah menyebabkan kerugian miliaran, meningkatnya penggunaan agen AI otonom dapat menciptakan tantangan keamanan besar lainnya.