Carli Michelle Heller, una mujer de Bonita Springs, Florida, fue arrestada después de que los investigadores afirmaran que usó Claude como diario y escribió sobre disparar contra la Oficina del Sheriff del Condado de Lee el 26 de septiembre. Según ChainCatcher, también dijo al día siguiente que había conseguido un arma nueva, lo que llevó a los sistemas de seguridad de Anthropic a marcar los chats para que los revisara una persona y a denunciarlos ante las fuerzas del orden.
La policía identificó a Heller a partir del informe, acudió a su domicilio y la puso bajo custodia. Fue acusada de formular una amenaza escrita de violencia, y el juicio está previsto para noviembre.
Las condiciones de uso para consumidores de Anthropic se reservan el derecho de denunciar ante las fuerzas del orden las entradas, los resultados o el comportamiento de los usuarios, a su entera discreción. Su política de privacidad, vigente desde el 10 de septiembre de 2026, también permite a la empresa compartir datos con la policía cuando considere que su divulgación es razonablemente necesaria para prevenir daños graves.
La empresa puede seguir usando los datos de los usuarios durante un máximo de tres meses, en lugar de cinco años, aunque estos opten por no participar en el entrenamiento de modelos. Los chats marcados para revisión también se usan para mejorar la detección de contenido dañino.
El caso no es el primero relacionado con Anthropic y las derivaciones a la policía. En septiembre, The San Francisco Standard informó que Anthropic había entregado a otro usuario a la policía después de que, presuntamente, escribiera sobre comprar un rifle AR-15 y poner en la mira al director ejecutivo, Dario Amodei. En ese momento, Anthropic afirmó que sus medidas de protección funcionaban según lo previsto.