Seorang perempuan dari Bonita Springs, Florida, Carli Michelle Heller, ditangkap setelah penyelidik mengatakan bahwa ia menggunakan Claude seperti buku harian dan menulis tentang penembakan di kantor Sheriff Lee County pada 26 September. Menurut ChainCatcher, ia juga mengatakan keesokan harinya bahwa ia telah mendapatkan senjata baru, sehingga sistem keselamatan Anthropic menandai obrolan tersebut untuk ditinjau manusia dan melaporkannya kepada penegak hukum.

Polisi mengidentifikasi Heller dari laporan tersebut, mendatangi rumahnya, lalu menangkapnya. Ia didakwa membuat ancaman kekerasan secara tertulis, dan kasusnya dijadwalkan untuk disidangkan pada bulan November.

Ketentuan Anthropic untuk konsumen mencadangkan hak untuk melaporkan masukan, keluaran, atau perilaku pengguna kepada aparat penegak hukum atas kebijakannya sendiri. Kebijakan privasinya, yang berlaku sejak 10 September 2026, juga mengizinkan perusahaan untuk membagikan data kepada polisi ketika perusahaan meyakini bahwa pengungkapan tersebut secara wajar diperlukan untuk mencegah bahaya serius.

Perusahaan masih dapat menggunakan data pengguna hingga tiga bulan, meskipun pengguna memilih untuk tidak ikut serta dalam pelatihan model, bukan selama lima tahun. Percakapan yang ditandai untuk ditinjau juga digunakan untuk meningkatkan kemampuan mendeteksi konten berbahaya.

Kasus ini bukan yang pertama melibatkan Anthropic dan pelaporan kepada polisi. Pada September, The San Francisco Standard melaporkan bahwa Anthropic telah melaporkan pengguna lain kepada polisi setelah orang tersebut diduga menulis tentang membeli senapan AR-15 dan menjadikan CEO Dario Amodei sebagai sasaran. Saat itu, Anthropic mengatakan bahwa langkah-langkah pengamannya berfungsi sebagaimana mestinya.