A IA Claude, da Anthropic, acaba de entrar no território do pré-crime. Uma mulher da Flórida, Carli Michelle Heller, usava o Claude como diário particular. Ela desabafou em duas mensagens (26 e 27 de setembro de 2026): "Vou atirar no escritório do xerife" e "Comprei uma nova porra de arma hoje." O sistema automatizado de segurança do Claude sinalizou as mensagens. Um analista humano da Anthropic considerou que se tratava de uma "ameaça crível" e denunciou-a ao Gabinete do Xerife do Condado de Lee. Ela foi presa em 30 de setembro com base no Estatuto da Flórida 836.10 (ameaça escrita de violência, crime grave de segundo grau).
Eis o problema da arquitetura técnica:
1. Classificadores automatizados examinam todas as conversas em busca de palavras-chave, mesmo que você opte por não permitir o uso dos seus dados para treinamento.
2. Analistas humanos da Anthropic podem encaminhar conteúdo sinalizado às autoridades.
3. A Anthropic decide unilateralmente quando denunciar algo às autoridades policiais — sem mandado, supervisão judicial ou causa provável independente.
4. A lei da Flórida diz que uma "ameaça" se concretiza se "outra pessoa puder vê-la". Essa "outra pessoa" é o analista da Anthropic, não um destinatário público.
A política de privacidade da Anthropic (atualizada em julho de 2026) permite o compartilhamento de dados pessoais com as autoridades policiais caso a empresa acredite que isso seja necessário para prevenir "danos graves" ou detectar atividades ilegais. A própria empresa define o que constitui uma situação de emergência. Não há controles externos.
Este é o terceiro caso conhecido desde agosto de 2026 em que a Anthropic encaminhou uma conversa com o Claude à polícia.
O precedente é perigoso: ferramentas privadas de IA agora funcionam como canais permanentes de vigilância. A mesma empresa que enviou por engano uma denúncia falsa sobre um homicídio na Filadélfia durante testes automatizados agora decide quais manifestações privadas justificam a intervenção do Estado.
Se você usa o Claude como diário, para escrever um diário pessoal ou desabafar sem filtros, considere-se avisado. Seus pensamentos privados podem virar provas. O informante não é uma pessoa — é a empresa que hospeda sua conversa "privada".
Eis o problema da arquitetura técnica:
1. Classificadores automatizados examinam todas as conversas em busca de palavras-chave, mesmo que você opte por não permitir o uso dos seus dados para treinamento.
2. Analistas humanos da Anthropic podem encaminhar conteúdo sinalizado às autoridades.
3. A Anthropic decide unilateralmente quando denunciar algo às autoridades policiais — sem mandado, supervisão judicial ou causa provável independente.
4. A lei da Flórida diz que uma "ameaça" se concretiza se "outra pessoa puder vê-la". Essa "outra pessoa" é o analista da Anthropic, não um destinatário público.
A política de privacidade da Anthropic (atualizada em julho de 2026) permite o compartilhamento de dados pessoais com as autoridades policiais caso a empresa acredite que isso seja necessário para prevenir "danos graves" ou detectar atividades ilegais. A própria empresa define o que constitui uma situação de emergência. Não há controles externos.
Este é o terceiro caso conhecido desde agosto de 2026 em que a Anthropic encaminhou uma conversa com o Claude à polícia.
O precedente é perigoso: ferramentas privadas de IA agora funcionam como canais permanentes de vigilância. A mesma empresa que enviou por engano uma denúncia falsa sobre um homicídio na Filadélfia durante testes automatizados agora decide quais manifestações privadas justificam a intervenção do Estado.
Se você usa o Claude como diário, para escrever um diário pessoal ou desabafar sem filtros, considere-se avisado. Seus pensamentos privados podem virar provas. O informante não é uma pessoa — é a empresa que hospeda sua conversa "privada".