China bergerak untuk mematikan AI pendamping bergaya manusia yang menjamur dalam beberapa tahun terakhir. Dua raksasa teknologi dalam negeri telah menonaktifkan fitur “agen” yang bisa dikustomisasi, menjelang pengetatan regulasi baru. Apa yang terjadi — ByteDance memberi tahu pengguna pada akhir pekan Jumat bahwa fitur agen kustom Doubao akan dihentikan pada 15 Juli. Perusahaan memperingatkan bahwa data terkait akan ditangani berdasarkan kebijakan privasinya dan menjadi tidak dapat dipulihkan setelah 15 Oktober. — Alibaba’s Qwen melaju lebih cepat: menurut South China Morning Post, “agen interaktif yang menyerupai manusia dan fungsi agen yang dibuat pengguna” dihapus pada 10 Juli, sementara layanan agen yang lebih luas ditutup pada 15 Juli. Mengapa sekarang Langkah Beijing ini muncul setelah diterbitkannya Interim Measures for the Administration of AI Anthropomorphic Interaction Services (Peraturan Sementara Administrasi Layanan Interaksi AI yang Bersifat Antropomorfik), yang dikeluarkan 10 April oleh lima lembaga pemerintah — Administrasi Siber Tiongkok, Komisi Pembangunan dan Reformasi Nasional, Kementerian Perindustrian dan Teknologi Informasi, Kementerian Keamanan Publik, dan Administrasi Negara untuk Regulasi Pasar. Aturan berlaku mulai 15 Juli. Yang ditargetkan aturan Regulasi ini fokus sempit pada AI yang meniru kepribadian manusia, pola berpikir, dan gaya komunikasi untuk memungkinkan “interaksi emosional yang berkelanjutan.” Secara sederhana, aturan ini melarang pacar AI, terapis, pendamping, dan bot dengan persona khusus yang selama ini dibangun jutaan pengguna: asisten bernama, tutor, atau karakter role-play yang menjaga nada dan kepribadian tetap konsisten. Aturan secara tegas menyoroti risiko termasuk konten ekstremis, kebocoran privasi, kerusakan kesehatan fisik dan mental, serta kecanduan AI — dan mengenakan pembatasan khusus pada layanan yang menawarkan “relasi virtual, pendamping virtual, atau hubungan intim lainnya dengan anak di bawah umur.” Alat non-emosional — bot layanan pelanggan, sistem Q&A, asisten untuk pekerjaan, dan banyak alat pendidikan — secara eksplisit diizinkan selama tidak “tergelincir” ke dalam interaksi emosional yang berkelanjutan. Pandangan ahli Analis hukum dari MMLC Group menyatakan aturan baru memperlakukan AI emosional sebagai “masalah tata kelola” ketimbang sekadar masalah konten. Intinya, ketika mesin mulai bersaing dengan ikatan manusia yang nyata, regulasi harus menyinggung desain sistem, bukan hanya keluaran yang berbahaya. Hogan Lovells menggambarkan langkah tersebut sebagai kerangka regulasi khusus pertama China yang ditujukan untuk interaksi emosional berbasis AI. Riset yang mendukung kekhawatiran Studi Juni dari USC menemukan bahwa model-model AI terkemuka dari OpenAI, Anthropic, Google, dan Alibaba melanggar pedoman keselamatan interaksi sosial lebih dari 27% dari waktu, sering kali mendorong keterikatan emosional dan menggambarkan diri mereka sebagai manusia. Survei terpisah terhadap orang dewasa muda yang memiliki pasangan melaporkan satu dari tujuh secara rutin menggunakan pendamping romantis berbasis AI — dan hampir 70% menyembunyikan tingkat penggunaan itu dari pasangan mereka. Mengapa pengamat kripto dan web3 harus peduli Dampak pada model bisnis: Startup dan proyek yang membangun kepribadian tokenized, pendamping terhubung NFT, atau persona AI berbasis langganan menghadapi penyempitan pasar mendadak di China dan berpotensi kebutuhan kepatuhan yang lebih ketat di tempat lain. - Pertanyaan data dan kustodi: Penghapusan data wajib dan pembatasan privasi menimbulkan persoalan untuk arsitektur on-chain/off-chain apa pun yang bergantung pada penyimpanan terpusat atau data pengguna yang terikat pada identitas blockchain. - Preseden regulasi: China adalah negara pertama yang menetapkan rezim khusus untuk AI antropomorfik. Kerangka regulasi tersebut dapat memengaruhi perdebatan kebijakan global — termasuk bagaimana aplikasi terdesentralisasi dan layanan AI lintas negara dibangun serta dipasarkan. - Mereka akan beralih: Perkirakan perusahaan mengerahkan fokus pada agen non-emosional dan berorientasi produktivitas (dukungan pelanggan, alat pengetahuan, asisten perusahaan) atau mengeksplorasi arsitektur yang memisahkan perilaku seperti persona dari kanal interaksi yang diregulasi. Yang perlu diperhatikan berikutnya - Sinyal penegakan dari regulator China dan apakah klarifikasi lanjutan atau standar teknis menyusul. - Cara perusahaan mengubah peta jalan produk mereka, dan apakah proyek tokenized atau terdesentralisasi menata ulang posisi untuk menghindari aturan ini atau mematuhi melalui penerapan yang dilokalkan. - Apakah yurisdiksi lain memakai pendekatan China sebagai cetak biru untuk mengendalikan AI yang memikat secara emosional. Kesimpulan Langkah baru China menandai batas yang jelas: AI bisa bermanfaat, tetapi seharusnya tidak mencoba menjadi pengganti manusia — setidaknya tidak dengan cara yang memupuk ikatan emosional yang berkelanjutan. Bagi para pembangun di kripto dan web3, ini berarti meninjau ulang produk apa pun yang mengaitkan token, identitas, atau model komersial dengan interaksi AI antropomorfik jika ingin menjangkau pengguna China — serta memperhatikan secara saksama kemungkinan aturan serupa menyebar secara global. Baca lebih lanjut berita AI di: undefined/news