AnthropicのCEO、ダリオ・アモデイ氏は10月21日、Xへの長文投稿で、安全性に関する使命を推進するには同社がAIの最前線にとどまらなければならないと述べ、同社が提案したAI安全法案への批判に応じた。ChainCatcherによると、Anthropicが米国の議員に提出した法案の草案では、政府が危険なモデルを停止するためのハードルが高く設定されている。生物兵器、サイバー攻撃、AIの制御喪失などのリスクが、50人を超える死者または重傷者、あるいは10億ドルを超える損失につながるおそれがあることが必要となる。また、一部の条項は州政府の規制権限を制限する可能性もある。

Encode AIの戦略ディレクター、Nathan Calvinは、過去1年間にAnthropicが下した判断を振り返った。同社は2月、安全対策がモデルの能力向上に追いつかなければ、訓練やリリースを一時停止するとしていた安全方針を改定した。新方針では、リスクが高まった場合でも、競合他社に追い抜かれる可能性を理由に、Anthropicだけが開発を停止することを求めなくなった。同じ頃、同社は計算能力に多額の投資を行い、チップ開発チームを立ち上げ、AI研究におけるClaudeの役割を拡大した。

AmodeiはAnthropicが過ちを犯したことを認めつつ、最先端のAI能力を追求することは、安全性を重視する使命と矛盾しないと主張した。同社のアプローチを上を目指す競争になぞらえ、技術の最前線にとどまることで、業界をより高い安全基準へと導く力を得られると述べた。また、数か月にわたってMythosクラスのモデルへのアクセスを制限したことや、生物学関連のリクエストに厳しい制限を設けたことなど、商業的な損失を伴った9つの安全性に関する判断を挙げた。

10月19日に更新されたAnthropicの安全性ロードマップによると、現在の方針は主に、危険なモデルの展開への対応を定めている。同社は、将来的にはAI開発のペースを直接制限する必要が生じる可能性があり、2027年1月15日までに方針を提案するか、提案していない理由を説明する予定だと述べた。