Perusahaan kecerdasan buatan Anthropic telah menuduh tiga perusahaan AI menggunakan model bahasa besar mereka, Claude, secara ilegal untuk meningkatkan model mereka sendiri dalam teknik yang dikenal sebagai serangan “distilasi.”
Dalam sebuah pos blog pada hari Minggu, Anthropic mengatakan bahwa mereka telah mengidentifikasi “serangan” ini oleh DeepSeek, Moonshot, dan MiniMax, yang melibatkan pelatihan model yang kurang mampu berdasarkan keluaran model yang lebih kuat.
Anthropic menuduh trio tersebut menghasilkan “lebih dari 16 juta pertukaran” yang digabungkan dengan AI Claude milik perusahaan di “sekitar 24.000 akun penipuan.”
"Distilasi adalah metode pelatihan yang digunakan secara luas dan sah. Misalnya, laboratorium AI perbatasan secara rutin menyaring model mereka sendiri untuk membuat versi yang lebih kecil dan lebih murah untuk pelanggan mereka," tulis Anthropic, menambahkan:
"Tapi distilasi juga dapat digunakan untuk tujuan ilegal: pesaing dapat menggunakannya untuk memperoleh kemampuan yang kuat dari laboratorium lain dalam waktu yang lebih singkat, dan dengan biaya yang lebih rendah, dibandingkan dengan waktu yang diperlukan untuk mengembangkan mereka secara independen."
Anthropic mengatakan bahwa serangan tersebut fokus pada pengambilan data Claude untuk berbagai tujuan, termasuk penalaran agensial, pengkodean, dan analisis data, tugas penilaian berbasis rubrik, dan visi komputer.
"Setiap kampanye menargetkan kemampuan Claude yang paling berbeda: penalaran agensial, penggunaan alat, dan pengkodean," kata perusahaan AI bernilai miliaran dolar tersebut.
Sumber: Anthropic
Anthropic mengatakan bahwa mereka dapat mengidentifikasi ketiga orang tersebut melalui "korelasi alamat IP, metadata permintaan, indikator infrastruktur, dan dalam beberapa kasus konfirmasi dari mitra industri yang mengamati aktor dan perilaku yang sama di platform mereka."
DeepSeek, Moonshot, dan Minimax adalah semua perusahaan AI yang berbasis di China. Ketiga perusahaan tersebut memiliki estimasi valuasi dalam kisaran miliaran dolar, dengan DeepSeek menjadi yang paling dikenal secara internasional di antara ketiga perusahaan tersebut.
Di luar implikasi kekayaan intelektual, Anthropic berargumen bahwa kampanye distilasi dari pesaing asing menghadirkan risiko geopolitik yang nyata.
"Laboratorium asing yang menyaring model-model Amerika kemudian dapat memasukkan kemampuan yang tidak dilindungi ini ke dalam sistem militer, intelijen, dan pengawasan—memungkinkan pemerintah otoriter untuk menerapkan AI perbatasan untuk operasi siber ofensif, kampanye disinformasi, dan pengawasan massal," kata perusahaan tersebut.
Ke depan, Anthropic mengatakan bahwa mereka akan melindungi diri mereka dengan meningkatkan sistem deteksi untuk membantu mengidentifikasi lalu lintas yang mencurigakan, berbagi intelijen ancaman, dan memperketat kontrol akses, antara lain.
Terkait: Laporan kiamat AI Citrini melihat saham perangkat lunak dan pembayaran merosot
Perusahaan tersebut juga menyerukan lebih banyak kolaborasi dari peserta industri domestik dan pembuat undang-undang untuk membantu menghentikan perusahaan AI asing dari menyerang perusahaan-perusahaan AS.
"Tidak ada perusahaan yang dapat menyelesaikan ini sendirian. Seperti yang kami catat di atas, serangan distilasi pada skala ini memerlukan respons terkoordinasi di seluruh industri AI, penyedia cloud, dan pembuat kebijakan. Kami menerbitkan ini untuk membuat bukti tersedia bagi semua orang yang memiliki kepentingan dalam hasilnya."
Majalah: Crypto menyukai Clawdbot/Moltbot, penilaian Uber untuk agen AI: AI Eye