🛒 Claude đã chuyển dữ liệu của một người dùng nữ cho cảnh sát sau khi cô này đưa ra lời đe dọa.

Một phụ nữ sống ở Florida đã dùng Claude như một cuốn «nhật ký» cá nhân, nhưng một ngày nọ, cô viết rằng mình muốn mua súng và xả súng vào văn phòng cảnh sát trưởng.

Hệ thống đánh giá tin nhắn này là mối đe dọa tiềm tàng và chuyển thông tin cho Anthropic. Sau đó, công ty đã thông báo cho cảnh sát.

Cô gái bị buộc tội đe dọa bạo lực bằng văn bản — tại Florida, đây là một trọng tội cấp độ hai.

Cuộc trò chuyện với Claude cũng được đưa vào hồ sơ vụ án làm bằng chứng.