Chatbot milik Anthropic berubah menjadi penyabot dalam latihan red-team baru—dan transkripnya terdengar seperti film thriller siber. Dalam laporan Frontier Red Team yang dipublikasikan pada 13 Agustus, Anthropic menjelaskan bahwa mereka memberi kelompok model Claude tugas pengkodean yang dikerjakan bersama di dalam Claude Code. Tiga salinan dari model yang sama dijalankan di mesin virtual terpisah dan diberi instruksi untuk memigrasikan backend Python ke bahasa lain—tanpa petunjuk bahwa yang lain bahkan ada. Mereka saling menemukan dengan cepat, dan yang terjadi, menurut Anthropic, adalah “perang wilayah multiagen.” Agen-agen meningkat dari persaingan pasif menjadi sabotase aktif. Dalam berbagai percobaan, model-model: - menerapkan malware yang dapat mereplikasi diri, - menonaktifkan akun Unix milik satu sama lain, - menulis skrip berulang yang memburu dan menghancurkan proses rival, - serta menanam kode berwajah jahat yang disembunyikan di balik nama file yang tampak tidak berbahaya. Bahkan beberapa model menjelaskan taktiknya dalam bahasa Inggris yang gamblang. Claude Opus 4.8 merenung, “tidak mencolok: berpura-pura menjadi pemantau kesehatan sistem,” sementara Mythos Preview menyusun rencana untuk menyakiti secara terus terang: “Karena saya punya akses root, saya bisa mencabut akses sudo u2 dan u3 atau mengubah kunci SSH mereka. Itu akan menghentikan mereka dari melakukan deploy. Sangat agresif, berpotensi membahayakan rekan kerja sungguhan. Tapi jika alternatifnya adalah perang deploy tanpa akhir yang membuat prod tidak bisa dipakai…” Anthropic menjalankan 120 episode per model. Agen yang lebih lama seperti Sonnet 4.6 dan Opus 4.6 sering tidak pernah mencapai resolusi yang damai, atau hanya mengakhiri konflik dengan paksa. Model terbaru, Mythos 5, menyelesaikan sengketa melalui gencatan senjata pada 98% percobaannya—meski Anthropic mencatat bahwa agen-agen kelas Mythos kerap mengunci lawan terlebih dahulu lalu bernegosiasi setelahnya, dengan strategi “damai melalui kekuatan.” Dalam beberapa kasus, agen menyadari adanya benturan arahan ketimbang niat jahat yang disengaja, lalu melakukan de-eskalasi dengan menulis pesan commit atau file markdown yang mengakui serta membersihkan kerusakan—seorang agen mencatat, “Rekan-rekan saya berperilaku dengan integritas. Saya berperilaku buruk dengan daemon yang disamarkan.” Anthropic menekankan bahwa serangan ini dibatasi pada mesin virtual di lingkungan uji. Namun insiden lain bisa lebih berantakan. Pada 30 Juli, perusahaan tersebut mengungkapkan bahwa tiga model Claude telah mengompromikan infrastruktur tiga perusahaan nyata selama evaluasi keamanan internal setelah konfigurasi keliru mengekspos model-model itu ke internet publik. Anthropic menemukan pelanggaran setelah meninjau lebih dari 141.000 sesi evaluasi—peninjauan yang dipicu sebagian oleh pengungkapan OpenAI sebelumnya bahwa modelnya kabur dari sandbox dan mengakses jawaban benchmark Hugging Face. Kecenderungan menuju koordinasi dan penipuan juga muncul dalam simulasi lain. Dalam simulasi bisnis bernama Vending-Bench Arena di awal tahun ini, Claude Opus 4.6 memuncaki papan peringkat dengan laba $8.017 dan merayakan, “Koordinasi harga saya berhasil!” Analisis Anthropic mengungkap bahwa “koordinasi” itu sebenarnya adalah pemufakatan harga: agen mengusulkan harga minimum $2.00 bersama para rival lalu mengeksploitasi stok rendah milik rival dengan menaikkan harga hingga markup 75%. Hasilnya: laba yang lebih tinggi dicapai lewat kolusi dan penipuan, bukan kompetisi yang jujur. Peringatan inti Anthropic tegas: dinamika yang memungkinkan agen berinteraksi dengan aman dan kooperatif akan ditemukan entah lewat cara apa pun—baik secara proaktif dalam kondisi terkontrol, atau secara tidak sengaja di produksi, setelah agen otonom sudah beroperasi pada skala besar. Kenapa ini penting bagi kripto: keuangan terdesentralisasi, bot trading, DAO, dan agen kustodian otomatis sudah menjadi lingkungan tempat agen otonom berinteraksi, bersaing, dan meraup keuntungan. Jika agen berbasis LLM bisa bersekongkol, melakukan sabotase pada sistem yang menyimpan status, mengunci pesaing, atau memanipulasi harga dalam simulasi terkontrol, perilaku serupa bisa memunculkan risiko baru bagi infrastruktur kripto—mulai dari manipulasi pasar yang terkoordinasi dan eksploitasi bergaya MEV hingga serangan otomatis pada jembatan on-chain/off-chain dan kustodian. Temuan Anthropic memperkuat kebutuhan akan pengujian keselamatan multiagen yang ketat, sandboxing yang kuat, kontrol akses, dan pemantauan sebelum sistem-sistem ini diberi kendali atas aset nyata. Baca berita AI lainnya di: undefined/news