1280元、できあがった顔が一枚。それを使ってライブ配信すれば、画面の中の人は視聴者を「家族」と呼び、スキンケア商品を売る。本人はその商品の瓶すら見たことがない。
今日未明、俳優の呉越が微博に投稿した。彼女が名指しした動画を探して、最後まで見た。ひと眠りして目を覚ましたら、誰かがAIを使って、好き勝手に人を利用し、自分の悪事を働かせている。動画の中の彼女はあるスキンケア商品を勧め、「自分でメーカーと交渉した」「長年のファンへのお礼に、共同でプレゼント企画をする」と話す。売り文句は次から次へと出てくる。「1つ注文すれば30個送る」「今日を過ぎたらもう手に入らない」「大型セールより安い」「気に入らなければ全部返品して」「妊婦さんもママも使える」。アカウント名は「花姐美肤日记」。ほかの動画には、鄧亜萍が商品を紹介する場面もあった。動画の下には「AI生成コンテンツを含む」と小さく表示されている。その一行では誰も救えない。
呉越は罵るだけで終わらなかった。さらに問いかけた。プラットフォームはお金の行き先を知らないはずがないのに、こういうことは調べられないのか、と。
俳優の温崢嵘も同じことを聞きたいだろう。今年4月以降、いくつものライブ配信に同時に彼女が現れた。同じ時間帯に、メイクも髪型も商品も違うのに、話す内容は同じ。彼女は配信に乗り込み、相手に「あなたが温崢嵘なら、私は誰なの？」と尋ねたが、すぐにブロックされた。彼女自身の言葉を借りれば、「今の私は、自分が自分だと証明するのがとても難しい」。
スポーツ選手の場合は、家族全員が標的になった。全紅嬋がけがの療養中、「嬋宝の小さなアシスタント」「全妹のお得情報」といった名前のアカウントが、クローン音声で地鶏の卵を販売し、商品リンク1つで4万7千個を売り上げた。兄、母、父の声まで複製され、兄の口調で家族の蜂蜜を紹介し、「2000件分を用意した」と話していた。家族は、誰にも許可を与えたことはないと、すぐにデマを否定した。9月末、国家インターネット情報弁公室は2か月間の「清朗」キャンペーンを開始した。AIによる人物のなりすましは、取り締まり項目の3番目に挙げられ、原文には「公人になりすまし、虚偽の推薦やマーケティングを行う」とある。呉越の件は、まさにこの項目に当たる。
コストの面は、さらに分かりやすい。毎日経済新聞の記者が買い手を装って潜入取材したところ、出来合いの有名人の顔は1枚1280元、オーダーメイドは1980元、3枚以上なら1枚1600元だった。顔を売る業者は、自分だけで約1000件を受注し、何台もの機械を毎日午前5時まで動かしていると言う。この技術でプラットフォームの監視をすり抜ける方法は、スマートフォンのカメラを乗っ取ること。プラットフォームが見ているのは、すでに顔を差し替えた映像だ。顔を撮る、鼻を押さえる、歯を見せる、物で大きく覆い隠す――どれも試したが、検知されなかった。人民大学の姚歓慶は、これは「コンピューター情報システムに侵入するプログラムを提供する罪」に当たる可能性があると話す。
私の見立てでは、AIは悪事を働く限界費用を1280元まで引き下げた一方で、責任を追及する限界費用は依然として天井知らずだ。有名人なら本人が声を上げて、被害をすぐに食い止められるかもしれない。だが動画を信じて注文した人たちは、誰に相談すればいいのか。誰も応えてくれない。
暗号資産の世界に長くいる人は、台帳の仕組みに直感がある。オンチェーンの送金は、どのアドレスからどのアドレスに送られたかが永久に公開され、誰でも調べられる。プラットフォームの許可など必要ないし、その日のプラットフォームの気分にも左右されない。商品販売詐欺の金はプラットフォーム内決済を通る。プラットフォームは一銭一銭の行き先を把握している。調べるか、追及するかは、プラットフォーム自身が選ぶことだ。これは、暗号資産の世界が万能薬だと言っているのではない。詐欺師の受取アドレスも同じようにチェーン上に残るし、逮捕されるべき人は逮捕されなければならない。違いはただ一つ。一方の答えは石に刻まれ、もう一方の答えは引き出しにしまわれている。
「花姐」のアカウントがいったい何人をだまし、いくら売り上げたのか、プラットフォームは公表していない。私は確認できていない。呉越の投稿後もアカウントが残っているのか、記事を書いている時点では発表を見つけられなかった。
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #全紅嬋
今日未明、俳優の呉越が微博に投稿した。彼女が名指しした動画を探して、最後まで見た。ひと眠りして目を覚ましたら、誰かがAIを使って、好き勝手に人を利用し、自分の悪事を働かせている。動画の中の彼女はあるスキンケア商品を勧め、「自分でメーカーと交渉した」「長年のファンへのお礼に、共同でプレゼント企画をする」と話す。売り文句は次から次へと出てくる。「1つ注文すれば30個送る」「今日を過ぎたらもう手に入らない」「大型セールより安い」「気に入らなければ全部返品して」「妊婦さんもママも使える」。アカウント名は「花姐美肤日记」。ほかの動画には、鄧亜萍が商品を紹介する場面もあった。動画の下には「AI生成コンテンツを含む」と小さく表示されている。その一行では誰も救えない。
呉越は罵るだけで終わらなかった。さらに問いかけた。プラットフォームはお金の行き先を知らないはずがないのに、こういうことは調べられないのか、と。
俳優の温崢嵘も同じことを聞きたいだろう。今年4月以降、いくつものライブ配信に同時に彼女が現れた。同じ時間帯に、メイクも髪型も商品も違うのに、話す内容は同じ。彼女は配信に乗り込み、相手に「あなたが温崢嵘なら、私は誰なの？」と尋ねたが、すぐにブロックされた。彼女自身の言葉を借りれば、「今の私は、自分が自分だと証明するのがとても難しい」。
スポーツ選手の場合は、家族全員が標的になった。全紅嬋がけがの療養中、「嬋宝の小さなアシスタント」「全妹のお得情報」といった名前のアカウントが、クローン音声で地鶏の卵を販売し、商品リンク1つで4万7千個を売り上げた。兄、母、父の声まで複製され、兄の口調で家族の蜂蜜を紹介し、「2000件分を用意した」と話していた。家族は、誰にも許可を与えたことはないと、すぐにデマを否定した。9月末、国家インターネット情報弁公室は2か月間の「清朗」キャンペーンを開始した。AIによる人物のなりすましは、取り締まり項目の3番目に挙げられ、原文には「公人になりすまし、虚偽の推薦やマーケティングを行う」とある。呉越の件は、まさにこの項目に当たる。
コストの面は、さらに分かりやすい。毎日経済新聞の記者が買い手を装って潜入取材したところ、出来合いの有名人の顔は1枚1280元、オーダーメイドは1980元、3枚以上なら1枚1600元だった。顔を売る業者は、自分だけで約1000件を受注し、何台もの機械を毎日午前5時まで動かしていると言う。この技術でプラットフォームの監視をすり抜ける方法は、スマートフォンのカメラを乗っ取ること。プラットフォームが見ているのは、すでに顔を差し替えた映像だ。顔を撮る、鼻を押さえる、歯を見せる、物で大きく覆い隠す――どれも試したが、検知されなかった。人民大学の姚歓慶は、これは「コンピューター情報システムに侵入するプログラムを提供する罪」に当たる可能性があると話す。
私の見立てでは、AIは悪事を働く限界費用を1280元まで引き下げた一方で、責任を追及する限界費用は依然として天井知らずだ。有名人なら本人が声を上げて、被害をすぐに食い止められるかもしれない。だが動画を信じて注文した人たちは、誰に相談すればいいのか。誰も応えてくれない。
暗号資産の世界に長くいる人は、台帳の仕組みに直感がある。オンチェーンの送金は、どのアドレスからどのアドレスに送られたかが永久に公開され、誰でも調べられる。プラットフォームの許可など必要ないし、その日のプラットフォームの気分にも左右されない。商品販売詐欺の金はプラットフォーム内決済を通る。プラットフォームは一銭一銭の行き先を把握している。調べるか、追及するかは、プラットフォーム自身が選ぶことだ。これは、暗号資産の世界が万能薬だと言っているのではない。詐欺師の受取アドレスも同じようにチェーン上に残るし、逮捕されるべき人は逮捕されなければならない。違いはただ一つ。一方の答えは石に刻まれ、もう一方の答えは引き出しにしまわれている。
「花姐」のアカウントがいったい何人をだまし、いくら売り上げたのか、プラットフォームは公表していない。私は確認できていない。呉越の投稿後もアカウントが残っているのか、記事を書いている時点では発表を見つけられなかった。
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #全紅嬋