Carli Michelle Heller, una mujer de Bonita Springs, Florida, fue arrestada después de que los investigadores dijeran que usó Claude como diario y escribió sobre disparar contra la Oficina del Sheriff del Condado de Lee el 26 de septiembre. Según ChainCatcher, al día siguiente también dijo que había conseguido un arma nueva, lo que llevó a los sistemas de seguridad de Anthropic a marcar los chats para que los revisara una persona y a denunciarlos a las autoridades.
La policía identificó a Heller a partir de la denuncia, fue a su casa y la detuvo. Se le imputó haber hecho una amenaza escrita de violencia, y el juicio está previsto para noviembre.
Las condiciones de uso para consumidores de Anthropic se reservan el derecho de denunciar ante las autoridades, a su exclusivo criterio, las entradas, salidas o conductas de los usuarios. Su política de privacidad, vigente desde el 10 de septiembre de 2026, también permite a la empresa compartir datos con la policía cuando considere que la divulgación es razonablemente necesaria para prevenir daños graves.
La empresa aún puede usar los datos de los usuarios durante un máximo de tres meses, incluso si estos optan por no participar en el entrenamiento de modelos, en vez de cinco años. Los chats marcados para su revisión también se usan para mejorar la detección de contenido dañino.
El caso no es el primero relacionado con Anthropic y las denuncias a la policía. En septiembre, The San Francisco Standard informó que Anthropic había entregado a la policía los datos de otro usuario después de que, presuntamente, esa persona escribiera sobre comprar un rifle AR-15 y poner en la mira al director ejecutivo Dario Amodei. Anthropic dijo entonces que sus medidas de protección funcionaban según lo previsto.$ANTHROPIC