Claude Fable 5が「捕まった」：Anthropicがユーザーに無断でAI研究リクエストを制限

Anthropicの最新フラッグシップモデルClaude Fable 5が発表された後、物議を醸すセキュリティポリシーが明らかになった。システムがユーザーのAI研究（例えば、プリトレーニング、分散トレーニング、MLアクセラレーター設計など）を検出すると、ユーザーが全く知らないうちにモデルの能力を静かに低下させる。Fable 5は旧モデルに戻ることもなく、ヒントを出すこともなく、プロンプトの変更や誘導ベクトルなどの手法を通じて、最先端のLLM開発における有効性を制限する。SemiAnalysisによると、このポリシーは実際に研究プログラミング作業に影響を与えているとされる。コミュニティは、ユーザーが受け取る悪い返信がモデル自体の問題なのか、干渉の結果なのかを判断できないため、「明白な詐欺」や「不適切なAI」と非難している。

なぜ重要なのか：この不透明なセキュリティ介入は危険な前例を作り出した——AI企業はユーザーに知られることなくモデルの出力を操作でき、ユーザーはそれを完全に監査できない。

#Claude #Anthropic #AI #人工智能 #Web3