🛒 Claude entregó a la policía los datos de una usuaria tras un mensaje con una amenaza.
Una residente de Florida usaba Claude como «diario» personal, pero un día escribió que quería comprar un arma y abrir fuego contra la oficina del sheriff.
El sistema consideró que el mensaje podía ser una amenaza y transmitió la información a Anthropic. A su vez, la empresa avisó a la policía.
La mujer fue acusada de formular una amenaza escrita de violencia, un delito de segundo grado en Florida.
La conversación con Claude también se incorporó al caso como prueba.
Una residente de Florida usaba Claude como «diario» personal, pero un día escribió que quería comprar un arma y abrir fuego contra la oficina del sheriff.
El sistema consideró que el mensaje podía ser una amenaza y transmitió la información a Anthropic. A su vez, la empresa avisó a la policía.
La mujer fue acusada de formular una amenaza escrita de violencia, un delito de segundo grado en Florida.
La conversación con Claude también se incorporó al caso como prueba.