1280 yuan, satu wajah siap pakai. Pasang wajah itu untuk siaran langsung, sosok di layar menyebut penonton sebagai keluarga dan menjual produk perawatan kulit yang bahkan belum pernah dilihat langsung oleh orang yang wajahnya dipakai.
Dini hari tadi, aktor Wu Yue mengunggah tulisan di Weibo. Saya mencari dan menonton sampai habis video yang ia sebutkan. Bangun tidur, baru sadar ada yang menggunakan AI seenaknya untuk mencatut orang lain demi berbuat jahat. Dalam video itu, sosoknya merekomendasikan sebuah produk perawatan kulit. Katanya, ia sendiri yang bernegosiasi dengan pabrik dan bekerja sama memberikan hadiah sebagai ungkapan terima kasih kepada penggemar lama. Rentetan kalimat promosinya terus mengalir. Beli satu, bonus tiga puluh. Setelah hari ini, kesempatan ini tak akan ada lagi. Lebih murah daripada promo besar-besaran. Kalau tidak bagus, kembalikan saja kepada saya. Ibu hamil juga bisa memakainya. Akunnya bernama Catatan Kecantikan Kak Hua. Dalam beberapa video lain di akun yang sama, juga muncul cuplikan atlet Deng Yaping sedang berjualan. Di bawah video ada tulisan kecil: konten dibuat dengan AI. Tulisan itu tak bisa menyelamatkan siapa pun.
Wu Yue tak berhenti pada kecaman. Ia melanjutkan dengan bertanya: apa platform tidak tahu ke mana uangnya pergi? Apa hal semacam ini tidak bisa dilacak?
Aktor Wen Zhengrong juga ingin menanyakan hal itu. Sejak April tahun ini, ia muncul secara bersamaan di beberapa ruang siaran langsung. Pada waktu yang sama, dengan riasan dan produk berbeda, tetapi mengucapkan kata-kata yang sama. Ia masuk ke ruang siaran langsung dan bertanya kepada orang yang menyamar sebagai dirinya, “Kamu Wen Zhengrong, lalu saya ini siapa?” Dalam hitungan detik, ia diblokir. Kata-katanya sendiri: “Sekarang saya sulit membuktikan bahwa saya adalah diri saya sendiri.”
Di dunia olahraga, seluruh keluarga ikut menjadi sasaran. Saat Quan Hongchan sedang memulihkan diri dari cedera, sejumlah akun dengan nama seperti Asisten Kecil Chanbao dan Akun Promo Quan Mei menggunakan suara tiruan untuk menjual telur ayam kampung. Satu tautan produk terjual sebanyak 47 ribu kali. Suara kakak laki-laki, ibu, dan ayahnya juga dikloning. Dengan suara sang kakak, mereka mempromosikan madu keluarga dan mengaku telah menyiapkan stok untuk 2.000 pesanan. Keluarganya pun tampil untuk membantah kabar itu: mereka tidak pernah memberi izin kepada siapa pun. Pada akhir September, Kantor Administrasi Ruang Siber memulai kampanye Qinglang selama dua bulan. Peniruan identitas dengan AI tercantum sebagai butir ketiga dalam daftar penertiban. Bunyi aslinya: “menyamar sebagai tokoh publik untuk melakukan dukungan palsu dan pemasaran.” Kasus Wu Yue termasuk dalam kategori ini.
Biayanya lebih gamblang lagi. Seorang reporter harian ekonomi nasional menyamar sebagai pembeli untuk melakukan penyelidikan: wajah selebritas yang sudah tersedia dijual seharga 1280 yuan per wajah, pesanan khusus 1980 yuan, dan pembelian tiga wajah atau lebih seharga 1600 yuan per wajah. Penjual wajah itu mengatakan bahwa ia sendiri telah menerima hampir seribu pesanan, dan beberapa mesinnya bekerja setiap hari hingga pukul lima pagi. Cara teknologi ini menghindari pemantauan platform adalah dengan membajak kamera ponsel. Yang terlihat oleh platform sudah berupa wajah yang diganti. Mereka sudah mencoba memotret wajah, menekan hidung, memperlihatkan gigi, dan menutupi wajah dengan benda besar—tak ada yang membuatnya terdeteksi. Yao Huanqing dari Universitas Renmin mengatakan bahwa tindakan ini mungkin memenuhi unsur tindak pidana menyediakan program untuk menyusup ke sistem informasi komputer.
Kesimpulan saya: AI menurunkan biaya marginal untuk berbuat jahat menjadi 1280 yuan, sementara biaya marginal untuk menuntut pertanggungjawaban masih setinggi langit-langit. Setidaknya, selebritas bisa segera menghentikan kerugian dengan angkat bicara sendiri. Namun, orang-orang yang percaya pada video itu lalu memesan produknya harus mengadu kepada siapa? Tak ada yang menjawab.
Orang yang sudah lama berkecimpung di dunia kripto punya intuisi soal pencatatan transaksi. Setiap transfer di blockchain—dari alamat mana ke alamat mana—terbuka untuk umum selamanya. Siapa pun bisa memeriksanya, tak perlu menunggu persetujuan platform dan tak bergantung pada suasana hati platform hari itu. Uang dari penipuan jualan lewat siaran langsung diproses melalui pembayaran dalam platform. Platform tahu ke mana setiap sen mengalir. Mau melacak atau tidak, mau menindaklanjuti atau tidak, itu pilihan mereka sendiri. Bukan berarti dunia kripto adalah obat mujarab; alamat penerima uang para penipu juga tercatat di blockchain, dan mereka tetap harus ditangkap. Bedanya hanya satu: jawaban di satu sisi terukir di atas batu, sedangkan di sisi lain terkunci di dalam laci.
Saya tidak tahu berapa banyak orang yang ditipu akun Kak Hua atau berapa banyak uang yang dihasilkan dari penjualan itu; platform belum mengumumkannya. Setelah Wu Yue mengunggah tulisannya, saya juga belum melihat pengumuman apakah akunnya masih aktif saat saya menulis artikel ini.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #全红婵
Dini hari tadi, aktor Wu Yue mengunggah tulisan di Weibo. Saya mencari dan menonton sampai habis video yang ia sebutkan. Bangun tidur, baru sadar ada yang menggunakan AI seenaknya untuk mencatut orang lain demi berbuat jahat. Dalam video itu, sosoknya merekomendasikan sebuah produk perawatan kulit. Katanya, ia sendiri yang bernegosiasi dengan pabrik dan bekerja sama memberikan hadiah sebagai ungkapan terima kasih kepada penggemar lama. Rentetan kalimat promosinya terus mengalir. Beli satu, bonus tiga puluh. Setelah hari ini, kesempatan ini tak akan ada lagi. Lebih murah daripada promo besar-besaran. Kalau tidak bagus, kembalikan saja kepada saya. Ibu hamil juga bisa memakainya. Akunnya bernama Catatan Kecantikan Kak Hua. Dalam beberapa video lain di akun yang sama, juga muncul cuplikan atlet Deng Yaping sedang berjualan. Di bawah video ada tulisan kecil: konten dibuat dengan AI. Tulisan itu tak bisa menyelamatkan siapa pun.
Wu Yue tak berhenti pada kecaman. Ia melanjutkan dengan bertanya: apa platform tidak tahu ke mana uangnya pergi? Apa hal semacam ini tidak bisa dilacak?
Aktor Wen Zhengrong juga ingin menanyakan hal itu. Sejak April tahun ini, ia muncul secara bersamaan di beberapa ruang siaran langsung. Pada waktu yang sama, dengan riasan dan produk berbeda, tetapi mengucapkan kata-kata yang sama. Ia masuk ke ruang siaran langsung dan bertanya kepada orang yang menyamar sebagai dirinya, “Kamu Wen Zhengrong, lalu saya ini siapa?” Dalam hitungan detik, ia diblokir. Kata-katanya sendiri: “Sekarang saya sulit membuktikan bahwa saya adalah diri saya sendiri.”
Di dunia olahraga, seluruh keluarga ikut menjadi sasaran. Saat Quan Hongchan sedang memulihkan diri dari cedera, sejumlah akun dengan nama seperti Asisten Kecil Chanbao dan Akun Promo Quan Mei menggunakan suara tiruan untuk menjual telur ayam kampung. Satu tautan produk terjual sebanyak 47 ribu kali. Suara kakak laki-laki, ibu, dan ayahnya juga dikloning. Dengan suara sang kakak, mereka mempromosikan madu keluarga dan mengaku telah menyiapkan stok untuk 2.000 pesanan. Keluarganya pun tampil untuk membantah kabar itu: mereka tidak pernah memberi izin kepada siapa pun. Pada akhir September, Kantor Administrasi Ruang Siber memulai kampanye Qinglang selama dua bulan. Peniruan identitas dengan AI tercantum sebagai butir ketiga dalam daftar penertiban. Bunyi aslinya: “menyamar sebagai tokoh publik untuk melakukan dukungan palsu dan pemasaran.” Kasus Wu Yue termasuk dalam kategori ini.
Biayanya lebih gamblang lagi. Seorang reporter harian ekonomi nasional menyamar sebagai pembeli untuk melakukan penyelidikan: wajah selebritas yang sudah tersedia dijual seharga 1280 yuan per wajah, pesanan khusus 1980 yuan, dan pembelian tiga wajah atau lebih seharga 1600 yuan per wajah. Penjual wajah itu mengatakan bahwa ia sendiri telah menerima hampir seribu pesanan, dan beberapa mesinnya bekerja setiap hari hingga pukul lima pagi. Cara teknologi ini menghindari pemantauan platform adalah dengan membajak kamera ponsel. Yang terlihat oleh platform sudah berupa wajah yang diganti. Mereka sudah mencoba memotret wajah, menekan hidung, memperlihatkan gigi, dan menutupi wajah dengan benda besar—tak ada yang membuatnya terdeteksi. Yao Huanqing dari Universitas Renmin mengatakan bahwa tindakan ini mungkin memenuhi unsur tindak pidana menyediakan program untuk menyusup ke sistem informasi komputer.
Kesimpulan saya: AI menurunkan biaya marginal untuk berbuat jahat menjadi 1280 yuan, sementara biaya marginal untuk menuntut pertanggungjawaban masih setinggi langit-langit. Setidaknya, selebritas bisa segera menghentikan kerugian dengan angkat bicara sendiri. Namun, orang-orang yang percaya pada video itu lalu memesan produknya harus mengadu kepada siapa? Tak ada yang menjawab.
Orang yang sudah lama berkecimpung di dunia kripto punya intuisi soal pencatatan transaksi. Setiap transfer di blockchain—dari alamat mana ke alamat mana—terbuka untuk umum selamanya. Siapa pun bisa memeriksanya, tak perlu menunggu persetujuan platform dan tak bergantung pada suasana hati platform hari itu. Uang dari penipuan jualan lewat siaran langsung diproses melalui pembayaran dalam platform. Platform tahu ke mana setiap sen mengalir. Mau melacak atau tidak, mau menindaklanjuti atau tidak, itu pilihan mereka sendiri. Bukan berarti dunia kripto adalah obat mujarab; alamat penerima uang para penipu juga tercatat di blockchain, dan mereka tetap harus ditangkap. Bedanya hanya satu: jawaban di satu sisi terukir di atas batu, sedangkan di sisi lain terkunci di dalam laci.
Saya tidak tahu berapa banyak orang yang ditipu akun Kak Hua atau berapa banyak uang yang dihasilkan dari penjualan itu; platform belum mengumumkannya. Setelah Wu Yue mengunggah tulisannya, saya juga belum melihat pengumuman apakah akunnya masih aktif saat saya menulis artikel ini.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #全红婵