Milhares de usuários do TikTok que ativaram uma ferramenta de segurança, o Algo Refresh, receberam uma versão que não funcionava, segundo alegações da ação judicial da procuradora-geral de Nova York, Letitia James, tornada pública na quarta-feira, de acordo com a Reuters.
O Algo Refresh foi criado para redefinir as recomendações de um usuário quando ele quiser evitar vídeos indesejados ou prejudiciais.
Naquilo que a ação judicial chama de experimentos fantasma ou placebo, os usuários do grupo placebo receberam a confirmação de que o Algo Refresh havia sido ativado, embora suas recomendações não tenham sido redefinidas, alega a ação.
Nova York afirma que os usuários foram induzidos ao erro
O processo alega que o TikTok garante aos usuários que a segurança é uma prioridade máxima e que a plataforma é apropriada para crianças e adolescentes, enquanto, conscientemente, nega ferramentas de segurança a determinados grupos, incluindo usuários que buscaram especificamente evitar conteúdo prejudicial.
De acordo com o processo, a empresa havia induzido os usuários ao erro quanto à funcionalidade do Algo Refresh, que na verdade era uma redefinição temporária do algoritmo usado para recomendações.
O TikTok continuou realizando os experimentos com milhares de usuários ao longo de 2023, segundo o documento judicial, comparando aqueles que usavam o recurso com aqueles que não o usavam e analisando quanto tempo os usuários passavam na plataforma e como a configuração afetava a receita publicitária.
Um porta-voz afirmou que a empresa faz melhorias contínuas e, como a maioria das empresas, testa regularmente novos produtos e recursos para validar a experiência e entender como funcionam no mundo real.
O TikTok negou amplamente as acusações de Nova York em documentos apresentados à Justiça e afirma que manter os jovens usuários seguros é uma prioridade.
Funcionário do TikTok alertou que o teste com placebo poderia induzir os usuários ao erro
Uma gerente de produto de Bem-estar Digital disse aos colegas que testar o Algo Refresh com placebo era problemático e que os usuários poderiam considerar isso enganoso, alega o processo.
“Este recurso trata de transparência e controle do algoritmo”, escreveu a pessoa em um chat interno. “Um grupo de controle com placebo contradiz completamente isso.” A empresa realizou os testes mesmo assim.
As acusações vieram à tona depois que a denúncia deixou de tramitar em sigilo
A procuradora-geral James ajuizou o processo em 2024, enquanto as acusações mais recentes foram incluídas em uma denúncia alterada, protocolada sob sigilo no fim de agosto de 2026. Elas só se tornaram públicas depois que um juiz ordenou que a denúncia deixasse de tramitar em sigilo.
Segundo a Reuters, muitos documentos de outros processos estaduais contra o TikTok também foram mantidos sob sigilo ou fortemente censurados, numa tentativa de manter em segredo as informações sobre as práticas internas da empresa.
A denúncia que deixou de tramitar em sigilo também alega outro experimento no qual o TikTok aparentemente desativou algumas de suas medidas de segurança para usuários escolhidos aleatoriamente. Segundo investigações internas mencionadas no processo, um adolescente de Nova York selecionado para esse teste tirou a própria vida. A conta dele estava repleta de conteúdo sobre suicídio e automutilação.
O experimento também chamou a atenção em Washington, onde, em agosto, os senadores Marsha Blackburn e Richard Blumenthal o classificaram como “depravado”. Os dois senadores enviaram 13 perguntas ao TikTok sobre o teste para entender como ele foi concebido, quem o aprovou e quais eram as supostas salvaguardas em vigor.
O processo movido por Nova York faz parte de uma contestação jurídica muito mais ampla. Mais de 20 estados alegaram que o TikTok criou recursos para incentivar o uso compulsivo entre os jovens, apesar das afirmações exageradas da empresa sobre suas medidas de segurança.
Essa pressão já resultou em acordos. Em setembro, o TikTok concordou em pagar até US$ 300 milhões ao Alabama e fazer mudanças no funcionamento de sua plataforma para adolescentes, encerrando o primeiro dos processos estaduais que estavam programados para ir a julgamento.
Não se limite a ler notícias sobre criptomoedas. Entenda-as. Assine nossa newsletter. É grátis.