🛒 脅迫の投稿を受け、Claudeが利用者の情報を警察に提供。

フロリダ州在住の女性は、Claudeを個人的な「日記」として使っていました。しかしある日、銃を買って保安官事務所を銃撃したいと書き込みました。

システムはこの投稿を潜在的な脅威と判断し、Anthropicに情報を提供しました。同社はその後、警察に通報しました。

女性は書面による暴力の脅迫で起訴されました。フロリダ州では第2級の重罪に当たります。

Claudeとのやり取りも証拠として事件記録に加えられました。