1280 Yuan für ein fertiges Gesicht. Damit geht man live, und die Person auf dem Bildschirm nennt die Zuschauer Familie und verkauft Hautpflegeprodukte, deren Flasche das echte Vorbild noch nie gesehen hat.
Heute früh veröffentlichte die Schauspielerin Wu Yue einen Beitrag auf Weibo. Ich habe das Video, auf das sie hingewiesen hatte, herausgesucht und ganz angesehen. Man wacht auf und fragt sich: Wer nutzt KI hemmungslos, um Menschen für seine eigenen Machenschaften zu missbrauchen? Im Video empfiehlt sie ein Hautpflegeprodukt und sagt, sie habe selbst mit dem Hersteller verhandelt und wolle sich bei ihren langjährigen Fans bedanken, indem sie gemeinsam ein Angebot auf die Beine stelle. Ein Verkaufsspruch folgt auf den nächsten. Eins kaufen, dreißig bekommen. Das Angebot gibt es nur heute. Günstiger als beim großen Sale. Wenn es nicht gut ist, gebt es mir zurück. Auch Schwangere und Mütter können es benutzen. Der Account heißt Huajies Schönheitstagebuch. In einigen weiteren Videos tauchen auch Verkaufsclips mit der Tischtennisspielerin Deng Yaping auf. Unter dem Video steht in winziger Schrift: Enthält KI-generierte Inhalte. Diese Zeile rettet niemanden.
Wu Yue beließ es nicht dabei, sich aufzuregen. Sie fragte weiter: Weiß die Plattform etwa nicht, wohin das Geld fließt? Kann man so etwas nicht herausfinden?
Das möchte auch die Schauspielerin Wen Zhengrong wissen. Seit April dieses Jahres tauchte sie in mehreren Livestreams gleichzeitig auf – zur selben Zeit, mit unterschiedlichem Make-up und anderer Kleidung, aber mit denselben Worten. Sie platzte in einen Livestream und fragte die andere Person: Wenn du Wen Zhengrong bist, wer bin dann ich? Daraufhin wurde sie sofort gesperrt. Ihre eigenen Worte waren: Ich kann gerade kaum beweisen, dass ich ich bin.
Bei den Sportlerinnen und Sportlern ist gleich die ganze Familie betroffen. Während Quan Hongchan sich von einer Verletzung erholte, verkauften mehrere Accounts unter Namen wie Chanbaos kleine Assistentin und Quan meis Fan-Angebote mit geklonter Stimme Eier von freilaufenden Hühnern. Ein einzelner Produktlink verkaufte 47.000 Stück. Auch die Stimmen ihres Bruders, ihrer Mutter und ihres Vaters wurden geklont. Mit der Stimme des Bruders wurde der Familienhonig angepriesen, angeblich seien 2.000 Bestellungen vorrätig. Die Familie stellte klar, dass sie niemandem jemals eine Genehmigung erteilt hatte. Ende September startete die Cyberspace-Verwaltung die zweimonatige Kampagne Qinglang. KI-Imitationen von Personen stehen an dritter Stelle der Maßnahmenliste. Im Original heißt es: Sich als öffentliche Personen ausgeben und falsche Empfehlungen sowie Marketing betreiben. Der Fall Wu Yue fällt genau darunter.
Die Kosten sind noch deutlicher. Reporter der Zeitung Nanfang Daily gaben sich bei verdeckten Recherchen als Käufer aus: Ein fertiges Promi-Gesicht kostet 1280 Yuan, eine individuelle Anfertigung 1980 Yuan, bei mindestens drei Gesichtern 1600 Yuan pro Stück. Der Verkäufer sagte, allein er habe fast tausend Aufträge angenommen, und mehrere Maschinen liefen täglich bis fünf Uhr morgens. Um die Überwachung der Plattform zu umgehen, wird die Handykamera gekapert. Was die Plattform sieht, ist bereits das ausgetauschte Gesicht. Gesicht abfilmen, auf die Nase drücken, die Zähne zeigen oder das Gesicht mit einem Gegenstand großflächig verdecken – alles wurde ausprobiert, nichts hilft. Yao Huanqing von der Renmin-Universität sagte, dies könne den Straftatbestand der Bereitstellung von Programmen zum Eindringen in Computersysteme erfüllen.
Meine Einschätzung: KI hat die Grenzkosten des Betrugs auf 1280 Yuan gedrückt, während die Grenzkosten der Strafverfolgung weiterhin durch die Decke gehen. Prominente können sich immerhin selbst zu Wort melden und den Schaden rechtzeitig begrenzen. Aber an wen sollen sich die Menschen wenden, die dem Video geglaubt und etwas bestellt haben? Niemand antwortet.
Wer lange in der Kryptoszene unterwegs ist, hat ein Gespür für Kontobücher. Eine On-Chain-Überweisung ist dauerhaft öffentlich: Man kann sehen, von welcher Adresse zu welcher Adresse Geld geflossen ist. Jeder kann es überprüfen, ohne dass eine Plattform zustimmen muss oder es auf ihre jeweilige Laune ankommt. Das Geld aus Betrugsmaschen beim Verkauf über Livestreams läuft über die Zahlungsdienste der Plattform. Sie weiß genau, wohin jeder Cent geflossen ist. Ob sie nachforscht und das Geld zurückverfolgt, ist ihre eigene Entscheidung. Das heißt nicht, dass die Kryptowelt das Heilmittel wäre: Auch die Empfangsadresse eines Betrügers ist auf der Blockchain sichtbar, und er muss trotzdem noch gefasst werden. Der Unterschied ist nur: Auf der einen Seite steht die Antwort in Stein gemeißelt, auf der anderen ist sie in einer Schublade eingeschlossen.
Wie viele Menschen der Account Huajie betrogen und wie viel Geld er eingenommen hat, hat die Plattform nicht bekannt gegeben; ich weiß es nicht. Ob der Account nach Wu Yues Beitrag noch existierte, konnte ich auch nicht feststellen, als ich diesen Text schrieb.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #全红婵
Heute früh veröffentlichte die Schauspielerin Wu Yue einen Beitrag auf Weibo. Ich habe das Video, auf das sie hingewiesen hatte, herausgesucht und ganz angesehen. Man wacht auf und fragt sich: Wer nutzt KI hemmungslos, um Menschen für seine eigenen Machenschaften zu missbrauchen? Im Video empfiehlt sie ein Hautpflegeprodukt und sagt, sie habe selbst mit dem Hersteller verhandelt und wolle sich bei ihren langjährigen Fans bedanken, indem sie gemeinsam ein Angebot auf die Beine stelle. Ein Verkaufsspruch folgt auf den nächsten. Eins kaufen, dreißig bekommen. Das Angebot gibt es nur heute. Günstiger als beim großen Sale. Wenn es nicht gut ist, gebt es mir zurück. Auch Schwangere und Mütter können es benutzen. Der Account heißt Huajies Schönheitstagebuch. In einigen weiteren Videos tauchen auch Verkaufsclips mit der Tischtennisspielerin Deng Yaping auf. Unter dem Video steht in winziger Schrift: Enthält KI-generierte Inhalte. Diese Zeile rettet niemanden.
Wu Yue beließ es nicht dabei, sich aufzuregen. Sie fragte weiter: Weiß die Plattform etwa nicht, wohin das Geld fließt? Kann man so etwas nicht herausfinden?
Das möchte auch die Schauspielerin Wen Zhengrong wissen. Seit April dieses Jahres tauchte sie in mehreren Livestreams gleichzeitig auf – zur selben Zeit, mit unterschiedlichem Make-up und anderer Kleidung, aber mit denselben Worten. Sie platzte in einen Livestream und fragte die andere Person: Wenn du Wen Zhengrong bist, wer bin dann ich? Daraufhin wurde sie sofort gesperrt. Ihre eigenen Worte waren: Ich kann gerade kaum beweisen, dass ich ich bin.
Bei den Sportlerinnen und Sportlern ist gleich die ganze Familie betroffen. Während Quan Hongchan sich von einer Verletzung erholte, verkauften mehrere Accounts unter Namen wie Chanbaos kleine Assistentin und Quan meis Fan-Angebote mit geklonter Stimme Eier von freilaufenden Hühnern. Ein einzelner Produktlink verkaufte 47.000 Stück. Auch die Stimmen ihres Bruders, ihrer Mutter und ihres Vaters wurden geklont. Mit der Stimme des Bruders wurde der Familienhonig angepriesen, angeblich seien 2.000 Bestellungen vorrätig. Die Familie stellte klar, dass sie niemandem jemals eine Genehmigung erteilt hatte. Ende September startete die Cyberspace-Verwaltung die zweimonatige Kampagne Qinglang. KI-Imitationen von Personen stehen an dritter Stelle der Maßnahmenliste. Im Original heißt es: Sich als öffentliche Personen ausgeben und falsche Empfehlungen sowie Marketing betreiben. Der Fall Wu Yue fällt genau darunter.
Die Kosten sind noch deutlicher. Reporter der Zeitung Nanfang Daily gaben sich bei verdeckten Recherchen als Käufer aus: Ein fertiges Promi-Gesicht kostet 1280 Yuan, eine individuelle Anfertigung 1980 Yuan, bei mindestens drei Gesichtern 1600 Yuan pro Stück. Der Verkäufer sagte, allein er habe fast tausend Aufträge angenommen, und mehrere Maschinen liefen täglich bis fünf Uhr morgens. Um die Überwachung der Plattform zu umgehen, wird die Handykamera gekapert. Was die Plattform sieht, ist bereits das ausgetauschte Gesicht. Gesicht abfilmen, auf die Nase drücken, die Zähne zeigen oder das Gesicht mit einem Gegenstand großflächig verdecken – alles wurde ausprobiert, nichts hilft. Yao Huanqing von der Renmin-Universität sagte, dies könne den Straftatbestand der Bereitstellung von Programmen zum Eindringen in Computersysteme erfüllen.
Meine Einschätzung: KI hat die Grenzkosten des Betrugs auf 1280 Yuan gedrückt, während die Grenzkosten der Strafverfolgung weiterhin durch die Decke gehen. Prominente können sich immerhin selbst zu Wort melden und den Schaden rechtzeitig begrenzen. Aber an wen sollen sich die Menschen wenden, die dem Video geglaubt und etwas bestellt haben? Niemand antwortet.
Wer lange in der Kryptoszene unterwegs ist, hat ein Gespür für Kontobücher. Eine On-Chain-Überweisung ist dauerhaft öffentlich: Man kann sehen, von welcher Adresse zu welcher Adresse Geld geflossen ist. Jeder kann es überprüfen, ohne dass eine Plattform zustimmen muss oder es auf ihre jeweilige Laune ankommt. Das Geld aus Betrugsmaschen beim Verkauf über Livestreams läuft über die Zahlungsdienste der Plattform. Sie weiß genau, wohin jeder Cent geflossen ist. Ob sie nachforscht und das Geld zurückverfolgt, ist ihre eigene Entscheidung. Das heißt nicht, dass die Kryptowelt das Heilmittel wäre: Auch die Empfangsadresse eines Betrügers ist auf der Blockchain sichtbar, und er muss trotzdem noch gefasst werden. Der Unterschied ist nur: Auf der einen Seite steht die Antwort in Stein gemeißelt, auf der anderen ist sie in einer Schublade eingeschlossen.
Wie viele Menschen der Account Huajie betrogen und wie viel Geld er eingenommen hat, hat die Plattform nicht bekannt gegeben; ich weiß es nicht. Ob der Account nach Wu Yues Beitrag noch existierte, konnte ich auch nicht feststellen, als ich diesen Text schrieb.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #全红婵