🛒 Claude menyerahkan data seorang pengguna perempuan kepada polisi setelah menerima pesan ancaman.

Seorang warga Florida menggunakan Claude sebagai «buku harian» pribadi, tetapi suatu hari ia menulis bahwa ingin membeli senjata dan menembaki kantor sheriff.

Sistem menganggap pesan itu sebagai potensi ancaman dan meneruskan informasinya kepada Anthropic. Perusahaan tersebut kemudian memberi tahu polisi.

Perempuan itu didakwa membuat ancaman kekerasan secara tertulis—di Florida, ini merupakan tindak pidana tingkat dua.

Percakapannya dengan Claude juga dilampirkan sebagai bukti dalam kasus tersebut.