Anthropic kali ini membahas apa itu “distilasi ilegal” dengan santai😛 Di artikel terbaru berjudul 「Laporan Deteksi dan Penindasan Penyalahgunaan AI」, selain memuat serangan siber, operasi pemantauan, tim kuda-kuda (buzzer/fleet), penipuan, dan penyalahgunaan biologis, juga mengungkap detail distilasi ilegal dari tujuh lab AI di Tiongkok! Pertama-tama, mari kita singkirkan niat baik menggunakan distilasi untuk membuat model berbobot terbuka agar “pemerataan kecerdasan” bisa terwujud—pelanggaran privasi yang terjadi lewat “stasiun transit” sungguh mengerikan. Jadi, jangan sampai disalahgunakan ya 。。。
Distilasi pada dasarnya adalah teknik pelatihan yang legal: menggunakan model “guru” yang besar dan kuat untuk menghasilkan jawaban dari sekumpulan input, lalu menggunakan pasangan tanya-jawab tersebut untuk melatih model “murid” yang lebih kecil agar meniru guru, sehingga mendapatkan kemampuan lebih tinggi dengan biaya lebih rendah.
Definisi laporan tentang distilasi ilegal adalah: dilakukan dalam skala industri, secara terselubung, dan mengambil kemampuan suatu model tanpa izin lalu menyalinnya ke model lain. Ciri utamanya ditopang oleh penipuan—membangun ribuan akun palsu dengan identitas palsu, pencurian kartu/“virtual credit card”, kredensial login yang dicuri, dan kunci API.
Tiga jalur utama:
1. Layanan proxy / “stasiun transit”: melalui layanan proxy untuk merutekan permintaan, dengan identitas palsu, kartu palsu atau kartu curian, serta kunci API yang dicuri untuk mendaftarkan ribuan akun, sekaligus melewati pembatasan geografis. Yang dicuri biasanya adalah kredensial API dari perusahaan atau individu yang sah, sehingga secara langsung merugikan pelanggan nyata;
2. Membeli catatan percakapan dari penjual pihak ketiga
Beberapa operator layanan proxy menyimpan seluruh percakapan pengguna dengan model dari Amerika tanpa sepengetahuan dan tanpa persetujuan pengguna, lalu mengemasnya untuk dijual ke laboratorium (pipeline distilasi milik SenseTime menggunakan jenis catatan yang dibeli seperti ini);
3. Forward diam-diam permintaan pengguna sendiri (yang paling terselubung): laboratorium diam-diam meneruskan permintaan pengguna mereka ke Claude, lalu jawaban Claude dikembalikan ke pengguna sebagai keluaran dari model mereka sendiri, sambil menyimpan pertukaran tersebut untuk pelatihan. Ini dilakukan oleh Moonshot dan DeepSeek! Memang tidak bisa tidak mengagumi kemampuan produk ini😆
Penjualan privasi pengguna adalah konsekuensi paling serius. DeepSeek, Xiaomi, dan Moonshot memberi makan dialog pengguna mereka ke Claude tanpa sepengetahuan pengguna. Banyak permintaan berasal dari layanan perutean model pihak ketiga yang umum digunakan di Eropa dan Amerika, sehingga melibatkan ratusan pengguna akhir, minimal belasan nama dalam berbagai bahasa, alamat email, dan data perusahaan.
Distilasi pada dasarnya adalah teknik pelatihan yang legal: menggunakan model “guru” yang besar dan kuat untuk menghasilkan jawaban dari sekumpulan input, lalu menggunakan pasangan tanya-jawab tersebut untuk melatih model “murid” yang lebih kecil agar meniru guru, sehingga mendapatkan kemampuan lebih tinggi dengan biaya lebih rendah.
Definisi laporan tentang distilasi ilegal adalah: dilakukan dalam skala industri, secara terselubung, dan mengambil kemampuan suatu model tanpa izin lalu menyalinnya ke model lain. Ciri utamanya ditopang oleh penipuan—membangun ribuan akun palsu dengan identitas palsu, pencurian kartu/“virtual credit card”, kredensial login yang dicuri, dan kunci API.
Tiga jalur utama:
1. Layanan proxy / “stasiun transit”: melalui layanan proxy untuk merutekan permintaan, dengan identitas palsu, kartu palsu atau kartu curian, serta kunci API yang dicuri untuk mendaftarkan ribuan akun, sekaligus melewati pembatasan geografis. Yang dicuri biasanya adalah kredensial API dari perusahaan atau individu yang sah, sehingga secara langsung merugikan pelanggan nyata;
2. Membeli catatan percakapan dari penjual pihak ketiga
Beberapa operator layanan proxy menyimpan seluruh percakapan pengguna dengan model dari Amerika tanpa sepengetahuan dan tanpa persetujuan pengguna, lalu mengemasnya untuk dijual ke laboratorium (pipeline distilasi milik SenseTime menggunakan jenis catatan yang dibeli seperti ini);
3. Forward diam-diam permintaan pengguna sendiri (yang paling terselubung): laboratorium diam-diam meneruskan permintaan pengguna mereka ke Claude, lalu jawaban Claude dikembalikan ke pengguna sebagai keluaran dari model mereka sendiri, sambil menyimpan pertukaran tersebut untuk pelatihan. Ini dilakukan oleh Moonshot dan DeepSeek! Memang tidak bisa tidak mengagumi kemampuan produk ini😆
Penjualan privasi pengguna adalah konsekuensi paling serius. DeepSeek, Xiaomi, dan Moonshot memberi makan dialog pengguna mereka ke Claude tanpa sepengetahuan pengguna. Banyak permintaan berasal dari layanan perutean model pihak ketiga yang umum digunakan di Eropa dan Amerika, sehingga melibatkan ratusan pengguna akhir, minimal belasan nama dalam berbagai bahasa, alamat email, dan data perusahaan.
