Según ChainCatcher, que cita a Decrypt, Carli Michelle Heller, una mujer de Bonita Springs, Florida, fue arrestada por usar Claude como diario. Los investigadores afirman que el 26 de septiembre escribió que iba a «acribillar» la oficina del sheriff del condado de Lee, y que al día siguiente dijo que había conseguido una nueva arma. El sistema de seguridad de Anthropic marcó esas conversaciones y, dada la gravedad del contenido, la plataforma las remitió a un equipo de revisión humana, que informó a las fuerzas del orden. La policía identificó a Heller gracias a esa información, se presentó en su domicilio y la detuvo. Se la acusa de emitir amenazas violentas por escrito y el juicio está previsto para noviembre.

Las condiciones de servicio para consumidores de Anthropic se reservan expresamente el derecho, «a su entera discreción», de denunciar ante las fuerzas del orden las entradas, salidas o conductas de los usuarios. La política de privacidad de la empresa, que entra en vigor el 10 de septiembre de 2026, también le permite compartir datos con la policía cuando crea de buena fe que la divulgación es razonablemente necesaria para prevenir daños graves. Aunque los usuarios opten por no permitir que sus datos se utilicen para entrenar modelos, Anthropic aún puede utilizarlos durante tres meses, en lugar de cinco años; además, las conversaciones marcadas para revisión también se utilizan para mejorar la capacidad de detectar contenido dañino.

Este no es el primer caso. En septiembre, The San Francisco Standard informó que Anthropic había remitido a un usuario a la policía. Según se informó, el usuario escribió que había comprado un rifle AR-15 y que había puesto en la mira telescópica al director ejecutivo de la empresa, Dario Amodei. El usuario dijo que solo estaba bromeando y, al publicarse el artículo, no había sido detenido ni acusado. Un portavoz de Anthropic afirmó que «nuestros procesos de protección funcionaron según lo previsto».