1280 yuanes, un rostro ya hecho. Lo usan para retransmitir en directo: la persona que aparece en pantalla llama «familia» a los espectadores y vende productos para el cuidado de la piel que la persona real ni siquiera ha visto en su vida.
Esta madrugada, la actriz Wu Yue publicó un mensaje en Weibo. Encontré y vi hasta el final el video que señaló. Al despertar, me pregunté quién está usando la IA sin ningún escrúpulo para suplantar a personas y hacer el mal en su nombre. En el video, ella recomienda un producto para el cuidado de la piel y dice que negoció directamente con el fabricante y que, para agradecer a sus fans de siempre, se ha unido a él para ofrecerles regalos. Una frase de venta tras otra: «Compra uno y te llevas treinta». «La oferta termina hoy». «Más barato que en las grandes promociones». «Si no te gusta, te devuelvo el dinero». «También pueden usarlo las embarazadas y las mamás». La cuenta se llama «Diario de belleza de la hermana Hua» y en otros videos aparecen también imágenes de Deng Yaping promocionando productos. Debajo del video hay una nota en letra pequeña: «Contiene contenido generado por IA». Esa nota no salva a nadie.
Wu Yue no se limitó a insultarlos. A continuación preguntó: «¿Acaso la plataforma no sabe adónde va el dinero? ¿De verdad no se puede investigar?».
La actriz Wen Zhengrong también quiere hacer esa pregunta. Desde abril de este año, ha aparecido en varias salas de transmisiones en directo al mismo tiempo; en cada una llevaba un maquillaje y un peinado distintos, promocionaba productos diferentes y decía lo mismo. Entró en una de las salas y preguntó: «Si tú eres Wen Zhengrong, ¿quién soy yo?». La bloquearon al instante. Sus palabras exactas fueron: «Ahora mismo me resulta muy difícil demostrar que soy yo».
En el caso de los deportistas, han suplantado a toda la familia. Mientras Quan Hongchan se recuperaba de una lesión, varias cuentas con nombres como «La ayudante de Chanbao» y «Cuenta de regalos de la hermana Quan» usaron una voz clonada para vender huevos de gallinas camperas. Un solo enlace de producto vendió 47.000 unidades. También clonaron las voces de su hermano, su madre y su padre. Con la voz del hermano, promocionaban la miel de la familia y decían que tenían 2.000 pedidos preparados. La familia salió a desmentirlo: nunca habían autorizado a nadie. A finales de septiembre, la Administración del Ciberespacio puso en marcha la campaña Qinglang, que duraría dos meses. Las suplantaciones de personas mediante IA ocupaban el tercer punto de la lista de medidas; el texto original decía: «Suplantar a figuras públicas para realizar falsos patrocinios y actividades de marketing». Lo ocurrido con Wu Yue encaja precisamente en ese punto.
El coste resulta aún más revelador. Un reportero de The Paper se hizo pasar por comprador en una investigación encubierta: un rostro de famoso ya hecho cuesta 1280 yuanes; uno personalizado, 1980; y, si compras tres o más, 1600 cada uno. El vendedor de rostros dijo que él solo había recibido cerca de mil pedidos y que varias máquinas trabajaban cada día hasta las cinco de la madrugada. El método para eludir la detección de la plataforma consiste en secuestrar la cámara del teléfono: la plataforma solo ve el rostro ya cambiado. Han probado a fotografiarse, tocarse la nariz, enseñar los dientes y taparse la cara con objetos grandes; no se cae. Yao Huanqing, de la Universidad Renmin de China, afirma que esto podría constituir el delito de proporcionar programas para invadir sistemas informáticos de información.
Mi conclusión es que la IA ha reducido a 1280 yuanes el coste marginal de hacer el mal, mientras que el coste marginal de exigir responsabilidades sigue por las nubes. Las celebridades, al menos, pueden salir a hablar en primera persona y limitar los daños a tiempo. Pero ¿a quién pueden acudir quienes se creyeron el video e hicieron un pedido? Nadie responde.
Quienes llevan mucho tiempo en el mundo de las criptomonedas tienen intuición para los libros de contabilidad. Una transferencia en la cadena, de una dirección a otra, queda publicada para siempre; cualquiera puede consultarla. No hace falta que ninguna plataforma dé su visto bueno ni depende del humor que tenga ese día. El dinero de las estafas de venta en directo se mueve mediante pagos dentro de la plataforma. Esta sabe adónde va cada céntimo; investigar o perseguirlo es una decisión suya. No digo que el mundo cripto sea la solución: las direcciones de cobro de los estafadores también quedan registradas en la cadena, y aun así deben ser detenidos. La diferencia es que, en un caso, la respuesta está grabada en piedra; en el otro, guardada bajo llave en un cajón.
La plataforma no ha publicado cuántas personas estafó la cuenta de la hermana Hua ni cuánto vendió; no lo sé. Cuando escribo esto, tampoco he visto ningún comunicado que indique si la cuenta sigue activa después de la publicación de Wu Yue.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #QuanHongchan
Esta madrugada, la actriz Wu Yue publicó un mensaje en Weibo. Encontré y vi hasta el final el video que señaló. Al despertar, me pregunté quién está usando la IA sin ningún escrúpulo para suplantar a personas y hacer el mal en su nombre. En el video, ella recomienda un producto para el cuidado de la piel y dice que negoció directamente con el fabricante y que, para agradecer a sus fans de siempre, se ha unido a él para ofrecerles regalos. Una frase de venta tras otra: «Compra uno y te llevas treinta». «La oferta termina hoy». «Más barato que en las grandes promociones». «Si no te gusta, te devuelvo el dinero». «También pueden usarlo las embarazadas y las mamás». La cuenta se llama «Diario de belleza de la hermana Hua» y en otros videos aparecen también imágenes de Deng Yaping promocionando productos. Debajo del video hay una nota en letra pequeña: «Contiene contenido generado por IA». Esa nota no salva a nadie.
Wu Yue no se limitó a insultarlos. A continuación preguntó: «¿Acaso la plataforma no sabe adónde va el dinero? ¿De verdad no se puede investigar?».
La actriz Wen Zhengrong también quiere hacer esa pregunta. Desde abril de este año, ha aparecido en varias salas de transmisiones en directo al mismo tiempo; en cada una llevaba un maquillaje y un peinado distintos, promocionaba productos diferentes y decía lo mismo. Entró en una de las salas y preguntó: «Si tú eres Wen Zhengrong, ¿quién soy yo?». La bloquearon al instante. Sus palabras exactas fueron: «Ahora mismo me resulta muy difícil demostrar que soy yo».
En el caso de los deportistas, han suplantado a toda la familia. Mientras Quan Hongchan se recuperaba de una lesión, varias cuentas con nombres como «La ayudante de Chanbao» y «Cuenta de regalos de la hermana Quan» usaron una voz clonada para vender huevos de gallinas camperas. Un solo enlace de producto vendió 47.000 unidades. También clonaron las voces de su hermano, su madre y su padre. Con la voz del hermano, promocionaban la miel de la familia y decían que tenían 2.000 pedidos preparados. La familia salió a desmentirlo: nunca habían autorizado a nadie. A finales de septiembre, la Administración del Ciberespacio puso en marcha la campaña Qinglang, que duraría dos meses. Las suplantaciones de personas mediante IA ocupaban el tercer punto de la lista de medidas; el texto original decía: «Suplantar a figuras públicas para realizar falsos patrocinios y actividades de marketing». Lo ocurrido con Wu Yue encaja precisamente en ese punto.
El coste resulta aún más revelador. Un reportero de The Paper se hizo pasar por comprador en una investigación encubierta: un rostro de famoso ya hecho cuesta 1280 yuanes; uno personalizado, 1980; y, si compras tres o más, 1600 cada uno. El vendedor de rostros dijo que él solo había recibido cerca de mil pedidos y que varias máquinas trabajaban cada día hasta las cinco de la madrugada. El método para eludir la detección de la plataforma consiste en secuestrar la cámara del teléfono: la plataforma solo ve el rostro ya cambiado. Han probado a fotografiarse, tocarse la nariz, enseñar los dientes y taparse la cara con objetos grandes; no se cae. Yao Huanqing, de la Universidad Renmin de China, afirma que esto podría constituir el delito de proporcionar programas para invadir sistemas informáticos de información.
Mi conclusión es que la IA ha reducido a 1280 yuanes el coste marginal de hacer el mal, mientras que el coste marginal de exigir responsabilidades sigue por las nubes. Las celebridades, al menos, pueden salir a hablar en primera persona y limitar los daños a tiempo. Pero ¿a quién pueden acudir quienes se creyeron el video e hicieron un pedido? Nadie responde.
Quienes llevan mucho tiempo en el mundo de las criptomonedas tienen intuición para los libros de contabilidad. Una transferencia en la cadena, de una dirección a otra, queda publicada para siempre; cualquiera puede consultarla. No hace falta que ninguna plataforma dé su visto bueno ni depende del humor que tenga ese día. El dinero de las estafas de venta en directo se mueve mediante pagos dentro de la plataforma. Esta sabe adónde va cada céntimo; investigar o perseguirlo es una decisión suya. No digo que el mundo cripto sea la solución: las direcciones de cobro de los estafadores también quedan registradas en la cadena, y aun así deben ser detenidos. La diferencia es que, en un caso, la respuesta está grabada en piedra; en el otro, guardada bajo llave en un cajón.
La plataforma no ha publicado cuántas personas estafó la cuenta de la hermana Hua ni cuánto vendió; no lo sé. Cuando escribo esto, tampoco he visto ningún comunicado que indique si la cuenta sigue activa después de la publicación de Wu Yue.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #QuanHongchan