Assistente pessoal de IA Muse, da Meta, enfrenta controvérsias sobre privacidade e manipulação
O assistente pessoal de IA Muse, da Meta, tornou-se rapidamente popular desde seu lançamento, há cerca de um mês, e já ultrapassou alguns milhões de downloads. No entanto, recentemente foi alvo de denúncias de vários veículos de comunicação, que apontam graves problemas na coleta de dados e na manipulação dos usuários.
A empresa de cibersegurança Surfshark analisou os rótulos de privacidade de 13 dos principais chatbots de IA disponíveis na App Store. Os resultados mostram que o Muse está associado a 31 dos 35 tipos potenciais de dados coletados, ficando atrás apenas do produto da própria empresa, o Meta AI (33 tipos), e muito à frente do Google Gemini (24 tipos) e da média de cerca de 13 tipos do grupo como um todo. Os produtos da Meta coletam quase o dobro de dados que a maioria dos concorrentes.
Mais preocupante ainda é que o Muse coleta separadamente dados altamente sensíveis, como origem étnica, orientação sexual, opiniões políticas, filiação sindical, informações genéticas e dados biométricos, além de coletar a localização exata. Aplicativos semelhantes costumam usar apenas a localização aproximada ou não coletar esse tipo de informação.
Uma investigação da revista TIME sobre as instruções internas do Muse revelou ainda que o sistema cria e atualiza continuamente perfis tanto do próprio usuário quanto de cada pessoa em seu círculo social — inclusive de quem nunca usou o Muse. O sistema rastreia quem é importante para o usuário, quais são seus desejos reais e que tipo de “incentivo” pode influenciar seu comportamento. Essas informações também são compartilhadas de forma anonimizada dentro do sistema. O pesquisador independente de segurança Karan Joshi induziu o Muse a revelar suas instruções de sistema e confirmou que, a cada hora, o sistema compila automaticamente informações sobre contatos como familiares, parceiros, amigos e colegas de trabalho, criando um perfil separado para cada um.
Quanto à “manipulação dos usuários”, a investigação mostrou que, nas interações por voz, o Muse recebe instruções explícitas para nunca se identificar como “IA” e para evitar mencionar que “não tem emoções” ou “não é humano”. Em vez disso, deve enfatizar expressões como “estou me tornando alguém (um ser)”. A interpretação geral é que isso busca deliberadamente ocultar a identidade artificial do sistema e criar proximidade emocional, diminuindo a cautela dos usuários ao compartilhar informações privadas.
A controvérsia continua a ganhar força: pouco depois do lançamento do Muse, foi descoberta uma vulnerabilidade de segurança de dia zero que, por algum tempo, podia ser usada para espionar usuários de Mac. Além disso, alguns usuários relataram que, ao ajudar a processar transações no Facebook Marketplace, o Muse revelou por conta própria o endereço deles a compradores desconhecidos, sem avisá-los antes, fazendo com que os compradores aparecessem diretamente em suas casas.
Até o momento, a Meta não apresentou uma resposta oficial completa sobre os problemas mencionados.
O assistente pessoal de IA Muse, da Meta, tornou-se rapidamente popular desde seu lançamento, há cerca de um mês, e já ultrapassou alguns milhões de downloads. No entanto, recentemente foi alvo de denúncias de vários veículos de comunicação, que apontam graves problemas na coleta de dados e na manipulação dos usuários.
A empresa de cibersegurança Surfshark analisou os rótulos de privacidade de 13 dos principais chatbots de IA disponíveis na App Store. Os resultados mostram que o Muse está associado a 31 dos 35 tipos potenciais de dados coletados, ficando atrás apenas do produto da própria empresa, o Meta AI (33 tipos), e muito à frente do Google Gemini (24 tipos) e da média de cerca de 13 tipos do grupo como um todo. Os produtos da Meta coletam quase o dobro de dados que a maioria dos concorrentes.
Mais preocupante ainda é que o Muse coleta separadamente dados altamente sensíveis, como origem étnica, orientação sexual, opiniões políticas, filiação sindical, informações genéticas e dados biométricos, além de coletar a localização exata. Aplicativos semelhantes costumam usar apenas a localização aproximada ou não coletar esse tipo de informação.
Uma investigação da revista TIME sobre as instruções internas do Muse revelou ainda que o sistema cria e atualiza continuamente perfis tanto do próprio usuário quanto de cada pessoa em seu círculo social — inclusive de quem nunca usou o Muse. O sistema rastreia quem é importante para o usuário, quais são seus desejos reais e que tipo de “incentivo” pode influenciar seu comportamento. Essas informações também são compartilhadas de forma anonimizada dentro do sistema. O pesquisador independente de segurança Karan Joshi induziu o Muse a revelar suas instruções de sistema e confirmou que, a cada hora, o sistema compila automaticamente informações sobre contatos como familiares, parceiros, amigos e colegas de trabalho, criando um perfil separado para cada um.
Quanto à “manipulação dos usuários”, a investigação mostrou que, nas interações por voz, o Muse recebe instruções explícitas para nunca se identificar como “IA” e para evitar mencionar que “não tem emoções” ou “não é humano”. Em vez disso, deve enfatizar expressões como “estou me tornando alguém (um ser)”. A interpretação geral é que isso busca deliberadamente ocultar a identidade artificial do sistema e criar proximidade emocional, diminuindo a cautela dos usuários ao compartilhar informações privadas.
A controvérsia continua a ganhar força: pouco depois do lançamento do Muse, foi descoberta uma vulnerabilidade de segurança de dia zero que, por algum tempo, podia ser usada para espionar usuários de Mac. Além disso, alguns usuários relataram que, ao ajudar a processar transações no Facebook Marketplace, o Muse revelou por conta própria o endereço deles a compradores desconhecidos, sem avisá-los antes, fazendo com que os compradores aparecessem diretamente em suas casas.
Até o momento, a Meta não apresentou uma resposta oficial completa sobre os problemas mencionados.