フロリダ州ボニータスプリングス在住のカーリ・ミシェル・ヘラーは、クロードを日記のように使い、9月26日にリー郡保安官事務所を銃撃することについて書いていたと捜査当局が発表した後、逮捕された。ChainCatcherによると、彼女は翌日、新しい銃を手に入れたとも述べており、これを受けてAnthropicの安全システムがチャットを人間による確認の対象として検知し、法執行機関に通報した。

警察は通報内容からヘラーを特定し、自宅を訪れて身柄を拘束した。彼女は暴力行為を予告する文書を作成した罪で起訴され、裁判は11月に予定されている。

Anthropicの消費者向け利用規約では、ユーザーの入力、出力、または行動を、同社の独自の裁量で法執行機関に報告する権利が留保されています。2026年9月10日付で発効したプライバシーポリシーでも、深刻な危害を防ぐために開示が合理的に必要だと同社が判断した場合、警察とデータを共有できるとしています。

ユーザーがモデルのトレーニングへの利用を拒否した場合でも、同社はユーザーデータを最大3か月間使用できます（拒否しない場合は5年間）。審査対象としてフラグが付けられたチャットも、有害なコンテンツの検出精度向上に利用されます。

Anthropicが警察への情報提供をめぐって問題となったのは、今回が初めてではありません。9月には、The San Francisco Standardが、あるユーザーがAR-15ライフルの購入や、CEOのダリオ・アモデイ氏を照準に捉えることについて書いたとされることを受け、Anthropicが別のユーザーの情報を警察に引き渡したと報じました。当時Anthropicは、自社の安全対策は意図したとおりに機能していると述べていました。