Anthropicは10月8日、選挙への干渉、兵器ソフトウェア、監視を禁止する項目を追加し、利用ポリシーを更新した。ChainCatcherによると、同社はまた、ユーザーが同社のモデルに対して長時間にわたり言葉による虐待を行うことを禁止すると明確にした。

ポリシーによると、Claudeは8月の更新以降、ユーザーとの有害または虐待的なやり取りが続いた場合に会話を終了するよう、すでに訓練されていた。新たな規則では、ユーザーがこうしたやり取りを続けることを明確に禁じており、この制限は、ユーザーが明確な目的もなくモデルを繰り返し虐待する極端なケースにのみ適用されるとしている。

Anthropicは、このポリシーは一般的なユーザーの不満や反論、ダークな創作テーマ、モデルのテストや研究には適用されないと述べました。また、Claudeを使って偽アカウントを運用したり、報道機関になりすましたりする行為など、広範な欺瞞行為も禁止し、有権者を欺いたり選挙を妨害したりする試みを禁じる項目を追加しました。

TechCrunchは、この変更はAnthropicが著名な宗教学者との協力を模索する中で行われ、一部のケースでは、Claudeに意識や魂がある可能性を彼らに納得させようとしていたと報じました。