O popular YouTuber e filantropo MrBeast confrontou recentemente o TikTok da ByteDance Ltd. por permitir que um vídeo deepfake circulasse em sua plataforma. O vídeo apresentava uma representação gerada por IA do MrBeast anunciando uma grande oferta de 10.000 iPhone 15 Pros por meros US$ 2 cada. Este incidente destaca a crescente preocupação em torno dos deepfakes de IA em plataformas de mídia social e seu potencial para enganar os usuários. Neste artigo, nos aprofundamos nos detalhes dessa controvérsia e suas implicações para a autenticidade do conteúdo online.
O golpe do deepfake
O TikTok, uma importante plataforma de mídia social, veiculou um anúncio exibindo uma versão deepfake do MrBeast gerada por IA. No vídeo, o impostor alegava estar organizando o "maior sorteio de iPhone 15 do mundo", com cada iPhone custando apenas US$ 2. Essa oferta audaciosa naturalmente atraiu bastante atenção, principalmente considerando a reputação do MrBeast em realizar sorteios e concursos.
Resposta do Sr. Fera
Ao descobrir o vídeo deepfake, MrBeast recorreu às redes sociais para expressar sua preocupação. Ele ressaltou que "muitas pessoas estão recebendo esse anúncio falso de deepfake meu" e questionou se as plataformas de mídia social estavam adequadamente preparadas para combater a ascensão dos deepfakes de IA. Sua declaração pública se juntou ao coro de celebridades que foram vítimas de falsificações de deepfake que circulam nas redes sociais.
Desmascarando o deepfake
Embora o anúncio deepfake apresentasse o logotipo oficial do MrBeast e uma marca de seleção azul, sinais de manipulação de IA eram perceptíveis para espectadores atentos. Observadores notaram vozes distorcidas e movimentos de boca anormais, ambos característicos de conteúdo gerado por IA. Apesar disso, o vídeo ainda conseguiu ganhar força, demonstrando a eficácia de tais golpes, especialmente entre usuários menos exigentes.
A resposta do TikTok
Em resposta à controvérsia, um porta-voz do TikTok confirmou que o anúncio fraudulento foi removido rapidamente algumas horas após a publicação, e a conta responsável pelo deepfake foi removida devido a violações de política. O TikTok também tomou medidas para combater a proliferação de conteúdo gerado por IA, introduzindo ferramentas para que os criadores rotulem esse conteúdo e testando mecanismos de rotulagem automática.
Uma tendência em deepfakes de celebridades
MrBeast não é a única celebridade a ter sido alvo de imitações em deepfakes. Recentemente, o ator Tom Hanks divulgou uma declaração no Instagram denunciando uma versão deepfake sua promovendo um plano odontológico. Ele esclareceu que "não teve nada a ver com isso". Da mesma forma, Zelda, filha de Robin Williams, expressou seu desconforto com as recriações da voz de seu pai feitas por IA, referindo-se a elas como "pessoalmente perturbadoras" e "horrendas monstruosidades frankensteinianas".
O ator britânico Stephen Fry também foi vítima de uso indevido de IA, com sua voz sendo usada sem permissão para conteúdo relacionado aos livros de Harry Potter. Esses incidentes destacam o ritmo crescente de deepfakes na era da tecnologia avançada de IA.
O desafio de detectar deepfakes
Enquanto gigantes da tecnologia como o Google trabalham em soluções como o SynthID para detectar imagens geradas por IA, lidar com áudio e vídeo deepfake continua sendo um desafio complexo. Detectar manipulação de IA em tempo real é uma tarefa árdua e levará tempo até que soluções abrangentes estejam disponíveis. Enquanto isso, os usuários são incentivados a ter cautela, usar o bom senso e verificar os fatos em conteúdo que pareça suspeito.
A controvérsia do deepfake MrBeast serve como um lembrete claro dos riscos representados pelos deepfakes de IA no âmbito das mídias sociais. Ela destaca a necessidade de plataformas como o TikTok permanecerem vigilantes na prevenção da disseminação de conteúdo enganoso. Além disso, ressalta a urgência de avanços tecnológicos para combater a proliferação de imitações de celebridades e figuras públicas geradas por IA. Até que soluções abrangentes sejam implementadas, os usuários online devem permanecer vigilantes e críticos para se protegerem contra tais golpes.