1280 юаней — и готовое лицо. Подставь его и выходи в прямой эфир: человек на экране называет зрителей родными, а продаваемую косметику настоящий человек даже в глаза не видел.
Сегодня на рассвете актриса У Юэ написала пост в Weibo. Я нашёл и досмотрел видео, на которое она указала. Проснулся — и задумался: кто же беззастенчиво использует ИИ, чтобы подставлять людей и творить зло от их имени? В видео она рекомендует средство по уходу за кожей и говорит, что сама договорилась с производителем и вместе с ним устраивает акцию для давних поклонников. Заученные фразы идут одна за другой: «Закажете одну — отправим тридцать. Только сегодня. Дешевле, чем на распродаже. Если не понравится — вернёте. Можно даже беременным». Аккаунт называется «Дневник красоты и ухода за кожей сестры Хуа»; в нескольких других видео там также рекламирует товары Дэн Япин. Под видео мелким шрифтом указано: «Содержит контент, созданный ИИ». Эта строчка никого не спасёт.
У Юэ не ограничилась возмущением. Она продолжила задавать вопросы: «Неужели платформе неизвестно, куда уходят деньги? Неужели это невозможно расследовать?»
То же самое хотела бы спросить актриса Вэнь Чжэнжун. Начиная с апреля этого года она одновременно появлялась в нескольких прямых эфирах. В одно и то же время, с разными причёсками и макияжем, с разными товарами, но говорила одно и то же. Она зашла в эфир и спросила самозванку: «Ты — Вэнь Чжэнжун, а кто тогда я?» Её тут же заблокировали. Сама она сказала: «Теперь мне очень трудно доказать, что я — это я».
Со спортсменкой мошенники задействовали всю семью. Пока Цюань Хунчань восстанавливалась после травмы, аккаунты под названиями «Помощница малышки Чань» и «Подарки для сестрёнки Цюань» продавали деревенские яйца голосом, скопированным с её голоса. По одной ссылке на товар продали 47 тысяч штук. Скопировали и голоса её брата, матери и отца. От имени брата рекламировали семейный мёд и говорили, что подготовили две тысячи заказов. Родные выступили с опровержением: они никому не давали разрешения. В конце сентября Управление киберпространства Китая запустило двухмесячную кампанию «Чистый интернет». Подделка образов людей с помощью ИИ указана в списке мер борьбы третьим пунктом. В оригинале сказано: «Выдавать себя за публичных лиц и размещать ложные рекомендации и рекламу». Случай У Юэ как раз подпадает под этот пункт.
Цены на такие услуги говорят сами за себя. Корреспондент издания «Мэйцзинь» под видом покупателя провёл тайное расследование: готовое лицо знаменитости стоит 1280 юаней, индивидуальный заказ — 1980, а при заказе от трёх лиц — 1600 за каждое. Продавец рассказал, что только он получил почти тысячу заказов, а несколько машин работают каждый день до пяти утра. Чтобы обойти платформенные системы обнаружения, технология захватывает камеру телефона: платформа уже видит подменённое лицо. Пробовали снимать лицо, нажимать на нос, показывать зубы, сильно закрывать лицо предметами — подмена не слетает. Яо Хуаньцин из Народного университета Китая говорит, что это может подпадать под статью о предоставлении программ для несанкционированного проникновения в компьютерные информационные системы.
Мой вывод таков: ИИ снизил предельную стоимость мошенничества до 1280 юаней, а предельная стоимость привлечения к ответственности по-прежнему зашкаливает. Знаменитости хотя бы могут вовремя выступить лично и остановить ущерб. А те, кто поверил видео и оформил заказ, к кому пойдут? Им никто не отвечает.
Те, кто давно в криптоиндустрии, интуитивно понимают, как устроен реестр. Каждый перевод в блокчейне — от какого адреса к какому — навсегда остаётся публичным. Проверить его может кто угодно, не спрашивая разрешения у платформы и не завися от её настроения. Деньги от мошенничества с продажами через прямые эфиры проходят через платёжную систему платформы. Платформа знает, куда ушла каждая копейка; расследовать или нет, искать виновных или нет — это её выбор. Я не утверждаю, что криптомир — панацея: адреса мошенников тоже видны в блокчейне, и их всё равно нужно ловить. Разница лишь в том, что ответ одной стороны высечен на камне, а ответ другой заперт в ящике стола.
Сколько людей обманул аккаунт сестры Хуа и на какую сумму он продал товаров, платформа не сообщала — я не знаю. Когда я пишу этот текст, после публикации У Юэ я также не видел никаких официальных сообщений о том, продолжает ли аккаунт работать.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #ЦюаньХунчань
Сегодня на рассвете актриса У Юэ написала пост в Weibo. Я нашёл и досмотрел видео, на которое она указала. Проснулся — и задумался: кто же беззастенчиво использует ИИ, чтобы подставлять людей и творить зло от их имени? В видео она рекомендует средство по уходу за кожей и говорит, что сама договорилась с производителем и вместе с ним устраивает акцию для давних поклонников. Заученные фразы идут одна за другой: «Закажете одну — отправим тридцать. Только сегодня. Дешевле, чем на распродаже. Если не понравится — вернёте. Можно даже беременным». Аккаунт называется «Дневник красоты и ухода за кожей сестры Хуа»; в нескольких других видео там также рекламирует товары Дэн Япин. Под видео мелким шрифтом указано: «Содержит контент, созданный ИИ». Эта строчка никого не спасёт.
У Юэ не ограничилась возмущением. Она продолжила задавать вопросы: «Неужели платформе неизвестно, куда уходят деньги? Неужели это невозможно расследовать?»
То же самое хотела бы спросить актриса Вэнь Чжэнжун. Начиная с апреля этого года она одновременно появлялась в нескольких прямых эфирах. В одно и то же время, с разными причёсками и макияжем, с разными товарами, но говорила одно и то же. Она зашла в эфир и спросила самозванку: «Ты — Вэнь Чжэнжун, а кто тогда я?» Её тут же заблокировали. Сама она сказала: «Теперь мне очень трудно доказать, что я — это я».
Со спортсменкой мошенники задействовали всю семью. Пока Цюань Хунчань восстанавливалась после травмы, аккаунты под названиями «Помощница малышки Чань» и «Подарки для сестрёнки Цюань» продавали деревенские яйца голосом, скопированным с её голоса. По одной ссылке на товар продали 47 тысяч штук. Скопировали и голоса её брата, матери и отца. От имени брата рекламировали семейный мёд и говорили, что подготовили две тысячи заказов. Родные выступили с опровержением: они никому не давали разрешения. В конце сентября Управление киберпространства Китая запустило двухмесячную кампанию «Чистый интернет». Подделка образов людей с помощью ИИ указана в списке мер борьбы третьим пунктом. В оригинале сказано: «Выдавать себя за публичных лиц и размещать ложные рекомендации и рекламу». Случай У Юэ как раз подпадает под этот пункт.
Цены на такие услуги говорят сами за себя. Корреспондент издания «Мэйцзинь» под видом покупателя провёл тайное расследование: готовое лицо знаменитости стоит 1280 юаней, индивидуальный заказ — 1980, а при заказе от трёх лиц — 1600 за каждое. Продавец рассказал, что только он получил почти тысячу заказов, а несколько машин работают каждый день до пяти утра. Чтобы обойти платформенные системы обнаружения, технология захватывает камеру телефона: платформа уже видит подменённое лицо. Пробовали снимать лицо, нажимать на нос, показывать зубы, сильно закрывать лицо предметами — подмена не слетает. Яо Хуаньцин из Народного университета Китая говорит, что это может подпадать под статью о предоставлении программ для несанкционированного проникновения в компьютерные информационные системы.
Мой вывод таков: ИИ снизил предельную стоимость мошенничества до 1280 юаней, а предельная стоимость привлечения к ответственности по-прежнему зашкаливает. Знаменитости хотя бы могут вовремя выступить лично и остановить ущерб. А те, кто поверил видео и оформил заказ, к кому пойдут? Им никто не отвечает.
Те, кто давно в криптоиндустрии, интуитивно понимают, как устроен реестр. Каждый перевод в блокчейне — от какого адреса к какому — навсегда остаётся публичным. Проверить его может кто угодно, не спрашивая разрешения у платформы и не завися от её настроения. Деньги от мошенничества с продажами через прямые эфиры проходят через платёжную систему платформы. Платформа знает, куда ушла каждая копейка; расследовать или нет, искать виновных или нет — это её выбор. Я не утверждаю, что криптомир — панацея: адреса мошенников тоже видны в блокчейне, и их всё равно нужно ловить. Разница лишь в том, что ответ одной стороны высечен на камне, а ответ другой заперт в ящике стола.
Сколько людей обманул аккаунт сестры Хуа и на какую сумму он продал товаров, платформа не сообщала — я не знаю. Когда я пишу этот текст, после публикации У Юэ я также не видел никаких официальных сообщений о том, продолжает ли аккаунт работать.
$BTC $ETH $USDT
#吴越 #AI诈骗 #AI换脸 #温峥嵘 #ЦюаньХунчань