Por 1.280 yuans, um rosto pronto. Use-o para fazer uma transmissão ao vivo: a pessoa na tela chama os espectadores de família e vende produtos de cuidados com a pele que a pessoa real nunca nem viu.
Na madrugada de hoje, a atriz Wu Yue publicou uma mensagem no Weibo. Encontrei e assisti até o fim ao vídeo que ela mencionou. Ao acordar, fiquei pensando: quem está usando IA para sequestrar pessoas à vontade e fazê-las praticar maldades em seu lugar? No vídeo, ela recomenda um produto de cuidados com a pele e diz que negociou diretamente com o fabricante e, para retribuir o carinho dos fãs antigos, está oferecendo brindes junto com a marca. Um discurso atrás do outro. Compre um e leve três. Depois de hoje, não vai ter mais. Mais barato que nas grandes promoções. Se não gostar, devolva. Até grávidas podem usar. A conta se chama Diário de Beleza da Tia Hua; em outros vídeos também aparecem imagens da ex-mesa-tenista Deng Yaping vendendo produtos. Abaixo do vídeo, há uma observação em letras miúdas: “contém conteúdo gerado por IA”. Essa observação não salva ninguém.
Wu Yue não se limitou a xingar. Em seguida, perguntou: será que a plataforma não sabe para onde vai o dinheiro? Não dá para investigar isso?
A atriz Wen Zhengrong também quer fazer essa pergunta. Desde abril deste ano, ela apareceu em várias transmissões ao vivo ao mesmo tempo, em horários coincidentes, com maquiagem, penteados e produtos diferentes, mas dizendo as mesmas coisas. Ela entrou numa dessas transmissões e perguntou: “Você é Wen Zhengrong; então, quem sou eu?” Foi bloqueada na mesma hora. Estas foram suas palavras: “Agora está muito difícil provar que eu sou eu.”
No caso dos atletas, a família inteira foi envolvida. Enquanto Quan Hongchan se recuperava de uma lesão, várias contas com nomes como “Assistente da Querida Chan” e “Conta de ofertas da Quan” usaram uma voz clonada para vender ovos caipiras. Um único link de produto vendeu 47 mil unidades. As vozes do irmão, da mãe e do pai dela também foram clonadas. Na voz do irmão, apresentavam o mel da família e diziam ter preparado dois mil pedidos. A família veio a público desmentir: nunca autorizou ninguém. No fim de setembro, a Administração do Ciberespaço da China lançou a campanha Qinglang, com duração de dois meses. A imitação de figuras públicas por IA aparece no terceiro item da lista de alvos da operação; o texto original diz: “falsificar a identidade de figuras públicas para fazer endossos e marketing enganosos”. O caso de Wu Yue se encaixa exatamente nesse item.
O custo torna tudo ainda mais evidente. Repórteres do jornal Meiri Jingji se passaram por compradores numa investigação: um rosto famoso pronto custa 1.280 yuans; um feito sob encomenda, 1.980; a partir de três, 1.600 cada. O vendedor de rostos disse que só ele já havia recebido quase mil pedidos e que várias máquinas trabalhavam todos os dias até as cinco da manhã. O método usado para driblar o monitoramento das plataformas consiste em sequestrar a câmera do celular; o que a plataforma consegue ver já é o rosto alterado. Tentaram filmar o rosto, apertar o nariz, mostrar os dentes e cobrir bastante a imagem com objetos — nada adiantou. Yao Huanqing, da Universidade Renmin da China, disse que isso pode configurar o crime de fornecer programas destinados a invadir sistemas de informação de computadores.
Minha avaliação é que a IA reduziu o custo marginal de cometer crimes a 1.280 yuans, enquanto o custo marginal de responsabilizar os culpados continua nas alturas. Celebridades ao menos podem se manifestar pessoalmente e conter os danos a tempo. Mas quem acreditou no vídeo e fez o pedido vai procurar quem? Ninguém responde.
Quem passa muito tempo no mundo das criptomoedas tem uma intuição para livros-razão. Uma transferência na blockchain — de qual endereço para qual endereço — fica registrada publicamente para sempre; qualquer pessoa pode consultá-la, sem precisar da autorização de nenhuma plataforma e sem depender do humor dela naquele dia. O dinheiro dos golpes de vendas ao vivo passa pelos sistemas de pagamento das plataformas, que sabem para onde foi cada centavo. Investigar ou não, cobrar ou não, é uma escolha delas. Isso não quer dizer que o mundo cripto seja uma cura: os endereços de recebimento dos golpistas também ficam registrados na blockchain, e eles ainda precisam ser presos. A diferença é apenas que, de um lado, a resposta está gravada na pedra; do outro, está trancada numa gaveta.
A plataforma não divulgou quantas pessoas a conta da Tia Hua enganou nem quanto vendeu; não tenho certeza. Quando escrevi este texto, também não tinha visto nenhum comunicado dizendo se a conta ainda estava ativa depois da publicação de Wu Yue.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #QuanHongchan
Na madrugada de hoje, a atriz Wu Yue publicou uma mensagem no Weibo. Encontrei e assisti até o fim ao vídeo que ela mencionou. Ao acordar, fiquei pensando: quem está usando IA para sequestrar pessoas à vontade e fazê-las praticar maldades em seu lugar? No vídeo, ela recomenda um produto de cuidados com a pele e diz que negociou diretamente com o fabricante e, para retribuir o carinho dos fãs antigos, está oferecendo brindes junto com a marca. Um discurso atrás do outro. Compre um e leve três. Depois de hoje, não vai ter mais. Mais barato que nas grandes promoções. Se não gostar, devolva. Até grávidas podem usar. A conta se chama Diário de Beleza da Tia Hua; em outros vídeos também aparecem imagens da ex-mesa-tenista Deng Yaping vendendo produtos. Abaixo do vídeo, há uma observação em letras miúdas: “contém conteúdo gerado por IA”. Essa observação não salva ninguém.
Wu Yue não se limitou a xingar. Em seguida, perguntou: será que a plataforma não sabe para onde vai o dinheiro? Não dá para investigar isso?
A atriz Wen Zhengrong também quer fazer essa pergunta. Desde abril deste ano, ela apareceu em várias transmissões ao vivo ao mesmo tempo, em horários coincidentes, com maquiagem, penteados e produtos diferentes, mas dizendo as mesmas coisas. Ela entrou numa dessas transmissões e perguntou: “Você é Wen Zhengrong; então, quem sou eu?” Foi bloqueada na mesma hora. Estas foram suas palavras: “Agora está muito difícil provar que eu sou eu.”
No caso dos atletas, a família inteira foi envolvida. Enquanto Quan Hongchan se recuperava de uma lesão, várias contas com nomes como “Assistente da Querida Chan” e “Conta de ofertas da Quan” usaram uma voz clonada para vender ovos caipiras. Um único link de produto vendeu 47 mil unidades. As vozes do irmão, da mãe e do pai dela também foram clonadas. Na voz do irmão, apresentavam o mel da família e diziam ter preparado dois mil pedidos. A família veio a público desmentir: nunca autorizou ninguém. No fim de setembro, a Administração do Ciberespaço da China lançou a campanha Qinglang, com duração de dois meses. A imitação de figuras públicas por IA aparece no terceiro item da lista de alvos da operação; o texto original diz: “falsificar a identidade de figuras públicas para fazer endossos e marketing enganosos”. O caso de Wu Yue se encaixa exatamente nesse item.
O custo torna tudo ainda mais evidente. Repórteres do jornal Meiri Jingji se passaram por compradores numa investigação: um rosto famoso pronto custa 1.280 yuans; um feito sob encomenda, 1.980; a partir de três, 1.600 cada. O vendedor de rostos disse que só ele já havia recebido quase mil pedidos e que várias máquinas trabalhavam todos os dias até as cinco da manhã. O método usado para driblar o monitoramento das plataformas consiste em sequestrar a câmera do celular; o que a plataforma consegue ver já é o rosto alterado. Tentaram filmar o rosto, apertar o nariz, mostrar os dentes e cobrir bastante a imagem com objetos — nada adiantou. Yao Huanqing, da Universidade Renmin da China, disse que isso pode configurar o crime de fornecer programas destinados a invadir sistemas de informação de computadores.
Minha avaliação é que a IA reduziu o custo marginal de cometer crimes a 1.280 yuans, enquanto o custo marginal de responsabilizar os culpados continua nas alturas. Celebridades ao menos podem se manifestar pessoalmente e conter os danos a tempo. Mas quem acreditou no vídeo e fez o pedido vai procurar quem? Ninguém responde.
Quem passa muito tempo no mundo das criptomoedas tem uma intuição para livros-razão. Uma transferência na blockchain — de qual endereço para qual endereço — fica registrada publicamente para sempre; qualquer pessoa pode consultá-la, sem precisar da autorização de nenhuma plataforma e sem depender do humor dela naquele dia. O dinheiro dos golpes de vendas ao vivo passa pelos sistemas de pagamento das plataformas, que sabem para onde foi cada centavo. Investigar ou não, cobrar ou não, é uma escolha delas. Isso não quer dizer que o mundo cripto seja uma cura: os endereços de recebimento dos golpistas também ficam registrados na blockchain, e eles ainda precisam ser presos. A diferença é apenas que, de um lado, a resposta está gravada na pedra; do outro, está trancada numa gaveta.
A plataforma não divulgou quantas pessoas a conta da Tia Hua enganou nem quanto vendeu; não tenho certeza. Quando escrevi este texto, também não tinha visto nenhum comunicado dizendo se a conta ainda estava ativa depois da publicação de Wu Yue.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #QuanHongchan