Популярный ютубер и филантроп MrBeast недавно выступил против TikTok компании ByteDance Ltd. за то, что он разрешил распространение дипфейкового видео на своей платформе. В видео было показано, как MrBeast, созданный искусственным интеллектом, объявляет о массовой раздаче 10 000 iPhone 15 Pro всего за 2 доллара каждый. Этот инцидент подчеркивает растущую обеспокоенность по поводу дипфейков ИИ на платформах социальных сетей и их потенциала для обмана пользователей. В этой статье мы углубимся в детали этого противоречия и его последствий для аутентичности онлайн-контента.

Мошенничество с дипфейком

TikTok, известная социальная медиа-платформа, разместила рекламу, демонстрирующую созданную искусственным интеллектом версию MrBeast. В видео самозванец утверждал, что организует «крупнейшую в мире раздачу iPhone 15», где каждый iPhone стоил всего 2 доллара. Это дерзкое предложение, естественно, привлекло значительное внимание, особенно учитывая репутацию MrBeast в проведении раздач и конкурсов.

Ответ MrBeast

Обнаружив видео с дипфейком, MrBeast обратился к социальным сетям, чтобы выразить свою обеспокоенность. Он указал, что «многие люди получают эту рекламу с дипфейком, мошенническую с моим участием», и усомнился в том, что платформы социальных сетей достаточно подготовлены к борьбе с ростом дипфейков с использованием искусственного интеллекта. Его публичное заявление добавило его голос к хору знаменитостей, которые стали жертвами дипфейковых подделок, циркулирующих в социальных сетях.

Разоблачение дипфейка

Хотя в рекламе deepfake присутствовал официальный логотип MrBeast и синяя галочка, проницательные зрители заметили признаки манипуляции ИИ. Наблюдатели отметили искаженные голоса и неестественные движения рта, характерные для контента, созданного ИИ. Несмотря на это, видео все же удалось набрать обороты, продемонстрировав эффективность таких мошенничеств, особенно среди менее проницательных пользователей.

Ответ ТикТока

В ответ на спор представитель TikTok подтвердил, что мошенническая реклама была быстро удалена через несколько часов после публикации, а связанный с ней аккаунт, ответственный за дипфейк, был удален из-за нарушений политики. TikTok также предпринял шаги по борьбе с распространением контента, созданного ИИ, внедрив инструменты для создателей, чтобы маркировать такой контент, и протестировав механизмы автоматической маркировки.

Тенденция в подделках знаменитостей

MrBeast — не единственная знаменитость, которая стала мишенью для дипфейковых подражаний. Недавно актер Том Хэнкс опубликовал заявление в Instagram, в котором осудил дипфейковую версию себя, продвигающую стоматологический план. Он пояснил, что он «не имеет к этому никакого отношения». Аналогичным образом дочь Робина Уильямса, Зельда, выразила свое недовольство воссозданием голоса ее отца с помощью искусственного интеллекта, назвав их «лично тревожащими» и «ужасными монстрами Франкенштейна».

Британский актер Стивен Фрай также стал жертвой неправомерного использования ИИ, когда его голос был использован без разрешения для контента, связанного с книгами о Гарри Поттере. Эти инциденты подчеркивают растущий темп дипфейков в эпоху передовых технологий ИИ.

Проблема обнаружения дипфейков

В то время как технологические гиганты, такие как Google, работают над решениями вроде SynthID для обнаружения изображений, сгенерированных ИИ, борьба с дипфейковыми аудио и видео остается сложной задачей. Обнаружение манипуляций ИИ в реальном времени — это сложная задача, и потребуется время, прежде чем появятся комплексные решения. В то же время пользователям настоятельно рекомендуется проявлять осторожность, использовать здравый смысл и проверять факты контента, который кажется подозрительным.

Скандал вокруг фейков MrBeast служит суровым напоминанием о рисках, которые представляют фейки на основе искусственного интеллекта в сфере социальных сетей. Он подчеркивает необходимость того, чтобы такие платформы, как TikTok, оставались бдительными в предотвращении распространения обманчивого контента. Кроме того, он подчеркивает неотложность технологических достижений для борьбы с распространением сгенерированных искусственным интеллектом подражаний знаменитостям и общественным деятелям. Пока не будут разработаны комплексные решения, пользователи сети должны оставаться бдительными и критически настроенными, чтобы не стать жертвами подобных мошенничеств.