1 280 yuans, un visage tout prêt. On l’enfile pour faire un direct : à l’écran, la personne appelle les spectateurs « la famille » et vend des produits de soin que la véritable personne n’a même jamais vus.
Cette nuit, à l’aube, l’actrice Wu Yue a publié un message sur Weibo. J’ai retrouvé la vidéo qu’elle dénonçait et je l’ai regardée jusqu’au bout. Au réveil, on se demande qui utilise l’IA à tort et à travers pour faire faire le sale boulot à d’autres. Dans la vidéo, elle recommande un produit de soin, prétend l’avoir négocié directement avec le fabricant et annonce une offre conjointe pour remercier ses anciens fans. Les arguments de vente s’enchaînent : « Pour un acheté, trente offerts. » « Ça n’existera plus après aujourd’hui. » « Moins cher que pendant les grosses promos. » « Si ça ne vous plaît pas, renvoyez-le-moi. » « Même les femmes enceintes peuvent l’utiliser. » Le compte s’appelle « Journal beauté de Sœur Hua ». Dans d’autres vidéos du même compte, on voit aussi Deng Yaping faire la promotion de produits. En bas de la vidéo, une petite mention indique que le contenu a été généré par l’IA. Cette mention ne sauvera personne.
Wu Yue ne s’est pas contentée de s’indigner. Elle a ensuite demandé : la plateforme ne sait donc pas où va l’argent ? Est-ce vraiment impossible à vérifier ?
C’est aussi ce que voudrait demander l’actrice Wen Zhengrong. Depuis avril de cette année, elle est apparue simultanément dans plusieurs salles de livestreaming : même moment, maquillage et coiffure différents, produits différents, mais les mêmes paroles. Elle est entrée dans une salle et a demandé à la personne : « Si tu es Wen Zhengrong, alors qui suis-je ? » Elle a été bloquée en une seconde. Voici ses mots exacts : « En ce moment, j’ai beaucoup de mal à prouver que je suis bien moi. »
Du côté des sportifs, toute la famille est prise pour cible. Pendant la convalescence de Quan Hongchan, plusieurs comptes se faisant passer pour « l’assistant de Chánbao » ou « le compte de cadeaux de Quan » ont vendu des œufs de poules élevées en plein air avec une voix clonée. Un lien produit a écoulé 47 000 articles. Les voix de son frère, de sa mère et de son père ont également été clonées. Avec la voix de son frère, les vidéos vantaient le miel de la famille et annonçaient 2 000 commandes en stock. La famille a démenti : elle n’a jamais autorisé qui que ce soit. Fin septembre, l’Administration du cyberespace de Chine a lancé l’opération « Qinglang », prévue pour deux mois. Les imitations de personnalités par l’IA figurent au troisième rang des priorités : le texte parle d’usurpation de l’identité de personnalités publiques à des fins de faux témoignages ou de marketing. L’affaire Wu Yue relève précisément de cette catégorie.
Le coût, lui, est encore plus parlant. Un journaliste du média Meiri Jingji s’est fait passer pour un acheteur lors d’une enquête discrète : un visage de célébrité déjà prêt coûte 1 280 yuans, une création sur mesure 1 980 yuans, et 1 600 yuans pièce à partir de trois visages. Le vendeur a expliqué qu’à lui seul, il avait déjà reçu près d’un millier de commandes et que plusieurs machines tournaient chaque jour jusqu’à cinq heures du matin. Pour contourner la surveillance des plateformes, cette technique pirate la caméra du téléphone : la plateforme ne voit déjà qu’un visage remplacé. Ils ont essayé de filmer le visage, de se pincer le nez, de montrer les dents ou de cacher largement le visage avec un objet : rien n’y fait, le trucage ne saute pas. Yao Huanqing, de l’Université Renmin de Chine, estime que cela pourrait constituer le délit de fourniture de programmes destinés à s’introduire dans un système informatique.
Mon avis : l’IA a ramené à 1 280 yuans le coût marginal du passage à l’acte, tandis que celui des poursuites reste hors d’atteinte. Les célébrités peuvent au moins prendre la parole rapidement pour limiter les dégâts. Mais vers qui se tourneront ceux qui ont cru la vidéo et passé commande ? Personne ne répond.
Ceux qui fréquentent les cryptomonnaies depuis longtemps ont l’instinct du registre. Un transfert sur la blockchain, de telle adresse à telle autre, est public à jamais. Tout le monde peut le vérifier, sans avoir besoin de l’autorisation d’une plateforme ni de dépendre de son humeur du jour. L’argent des arnaques à la vente en livestreaming passe par les paiements internes aux plateformes, qui savent où va chaque centime. Décider de vérifier ou de poursuivre, c’est leur choix. Cela ne veut pas dire que le monde des cryptomonnaies est un remède : l’adresse de réception des escrocs y est tout aussi visible, et ils doivent tout de même être arrêtés. La différence, c’est que d’un côté, la réponse est gravée dans la pierre ; de l’autre, elle est enfermée dans un tiroir.
La plateforme n’a pas révélé combien de personnes le compte de Sœur Hua a escroquées ni combien il a vendu. Je n’en sais rien. Après la publication de Wu Yue, je n’ai pas non plus vu de communiqué indiquant si le compte était toujours actif au moment où j’écris.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #QuanHongchan
Cette nuit, à l’aube, l’actrice Wu Yue a publié un message sur Weibo. J’ai retrouvé la vidéo qu’elle dénonçait et je l’ai regardée jusqu’au bout. Au réveil, on se demande qui utilise l’IA à tort et à travers pour faire faire le sale boulot à d’autres. Dans la vidéo, elle recommande un produit de soin, prétend l’avoir négocié directement avec le fabricant et annonce une offre conjointe pour remercier ses anciens fans. Les arguments de vente s’enchaînent : « Pour un acheté, trente offerts. » « Ça n’existera plus après aujourd’hui. » « Moins cher que pendant les grosses promos. » « Si ça ne vous plaît pas, renvoyez-le-moi. » « Même les femmes enceintes peuvent l’utiliser. » Le compte s’appelle « Journal beauté de Sœur Hua ». Dans d’autres vidéos du même compte, on voit aussi Deng Yaping faire la promotion de produits. En bas de la vidéo, une petite mention indique que le contenu a été généré par l’IA. Cette mention ne sauvera personne.
Wu Yue ne s’est pas contentée de s’indigner. Elle a ensuite demandé : la plateforme ne sait donc pas où va l’argent ? Est-ce vraiment impossible à vérifier ?
C’est aussi ce que voudrait demander l’actrice Wen Zhengrong. Depuis avril de cette année, elle est apparue simultanément dans plusieurs salles de livestreaming : même moment, maquillage et coiffure différents, produits différents, mais les mêmes paroles. Elle est entrée dans une salle et a demandé à la personne : « Si tu es Wen Zhengrong, alors qui suis-je ? » Elle a été bloquée en une seconde. Voici ses mots exacts : « En ce moment, j’ai beaucoup de mal à prouver que je suis bien moi. »
Du côté des sportifs, toute la famille est prise pour cible. Pendant la convalescence de Quan Hongchan, plusieurs comptes se faisant passer pour « l’assistant de Chánbao » ou « le compte de cadeaux de Quan » ont vendu des œufs de poules élevées en plein air avec une voix clonée. Un lien produit a écoulé 47 000 articles. Les voix de son frère, de sa mère et de son père ont également été clonées. Avec la voix de son frère, les vidéos vantaient le miel de la famille et annonçaient 2 000 commandes en stock. La famille a démenti : elle n’a jamais autorisé qui que ce soit. Fin septembre, l’Administration du cyberespace de Chine a lancé l’opération « Qinglang », prévue pour deux mois. Les imitations de personnalités par l’IA figurent au troisième rang des priorités : le texte parle d’usurpation de l’identité de personnalités publiques à des fins de faux témoignages ou de marketing. L’affaire Wu Yue relève précisément de cette catégorie.
Le coût, lui, est encore plus parlant. Un journaliste du média Meiri Jingji s’est fait passer pour un acheteur lors d’une enquête discrète : un visage de célébrité déjà prêt coûte 1 280 yuans, une création sur mesure 1 980 yuans, et 1 600 yuans pièce à partir de trois visages. Le vendeur a expliqué qu’à lui seul, il avait déjà reçu près d’un millier de commandes et que plusieurs machines tournaient chaque jour jusqu’à cinq heures du matin. Pour contourner la surveillance des plateformes, cette technique pirate la caméra du téléphone : la plateforme ne voit déjà qu’un visage remplacé. Ils ont essayé de filmer le visage, de se pincer le nez, de montrer les dents ou de cacher largement le visage avec un objet : rien n’y fait, le trucage ne saute pas. Yao Huanqing, de l’Université Renmin de Chine, estime que cela pourrait constituer le délit de fourniture de programmes destinés à s’introduire dans un système informatique.
Mon avis : l’IA a ramené à 1 280 yuans le coût marginal du passage à l’acte, tandis que celui des poursuites reste hors d’atteinte. Les célébrités peuvent au moins prendre la parole rapidement pour limiter les dégâts. Mais vers qui se tourneront ceux qui ont cru la vidéo et passé commande ? Personne ne répond.
Ceux qui fréquentent les cryptomonnaies depuis longtemps ont l’instinct du registre. Un transfert sur la blockchain, de telle adresse à telle autre, est public à jamais. Tout le monde peut le vérifier, sans avoir besoin de l’autorisation d’une plateforme ni de dépendre de son humeur du jour. L’argent des arnaques à la vente en livestreaming passe par les paiements internes aux plateformes, qui savent où va chaque centime. Décider de vérifier ou de poursuivre, c’est leur choix. Cela ne veut pas dire que le monde des cryptomonnaies est un remède : l’adresse de réception des escrocs y est tout aussi visible, et ils doivent tout de même être arrêtés. La différence, c’est que d’un côté, la réponse est gravée dans la pierre ; de l’autre, elle est enfermée dans un tiroir.
La plateforme n’a pas révélé combien de personnes le compte de Sœur Hua a escroquées ni combien il a vendu. Je n’en sais rien. Après la publication de Wu Yue, je n’ai pas non plus vu de communiqué indiquant si le compte était toujours actif au moment où j’écris.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #QuanHongchan