Uma mulher de Bonita Springs, na Flórida, Carli Michelle Heller, foi presa depois que investigadores disseram que ela usava o Claude como diário e escreveu sobre atirar contra o Gabinete do Xerife do Condado de Lee em 26 de setembro. Segundo o ChainCatcher, no dia seguinte ela também disse que havia conseguido uma nova arma, o que levou os sistemas de segurança da Anthropic a sinalizar as conversas para análise humana e denunciá-las às autoridades policiais.

A polícia identificou Heller com base no relatório, foi até a casa dela e a deteve. Ela foi acusada de fazer uma ameaça de violência por escrito, e o julgamento está previsto para novembro.

Os termos da Anthropic para consumidores reservam à empresa o direito de denunciar às autoridades policiais, a seu exclusivo critério, informações fornecidas pelos usuários, respostas geradas ou comportamentos. Sua política de privacidade, em vigor desde 10 de setembro de 2026, também permite que a empresa compartilhe dados com a polícia quando considerar que a divulgação é razoavelmente necessária para evitar danos graves.

A empresa ainda pode usar os dados dos usuários por até três meses, mesmo que eles optem por não participar do treinamento de modelos, em vez de cinco anos. As conversas sinalizadas para análise também são usadas para melhorar a detecção de conteúdo prejudicial.

O caso não é o primeiro envolvendo a Anthropic e encaminhamentos à polícia. Em setembro, o The San Francisco Standard informou que a Anthropic havia entregado outro usuário à polícia depois que a pessoa supostamente escreveu sobre comprar um rifle AR-15 e colocar o CEO Dario Amodei na mira. Na época, a Anthropic afirmou que suas salvaguardas estavam funcionando como previsto.\u003cc-5/\u003e