人工知能企業Anthropicは、3つのAI企業が自社の大規模言語モデルClaudeを不正に使用して、自社のモデルを改善する「蒸留」攻撃を行ったと非難しています。

日曜日のブログ投稿で、Anthropicは、DeepSeek、Moonshot、MiniMaxによるこれらの「攻撃」を特定したと述べ、より強力なモデルの出力に基づいて、能力の低いモデルを訓練することを含んでいます。

Anthropicは、同社のClaude AIを通じて「約24,000の不正アカウント」で「1,600万回以上のやり取り」を生成したとして、この3人を非難しました。

“蒸留は広く使用されている正当なトレーニング方法です。たとえば、最前線のAIラボは、自社のモデルを蒸留して、顧客向けのより小さく、安価なバージョンを作成することが常です”とAnthropicは記述し、次のように付け加えました：

“しかし、蒸留は不正な目的にも使用される可能性があります。競合他社は、他のラボから強力な能力を獲得するために、独自に開発するのにかかる時間やコストの一部でそれを利用できます。”

Anthropicは、攻撃がエージェント的推論、コーディング、データ分析、ルーブリックに基づく採点タスク、コンピュータビジョンなどの幅広い目的でClaudeをスクレイピングすることに焦点を当てていると述べました。

“各キャンペーンはClaudeの最も差別化された能力、すなわちエージェント的推論、ツール使用、コーディングをターゲットにしました”と、数十億ドル規模のAI企業は述べました。

出所：Anthropic

Anthropicは、IPアドレスの相関、リクエストメタデータ、インフラ指標、場合によっては業界パートナーからの確認を通じて、トリオを特定できたと述べました。

DeepSeek、Moonshot、およびMinimaxはすべて中国に拠点を置くAI企業です。これら3社はすべて数十億ドル規模の評価が見込まれており、DeepSeekが3社の中で最も国際的に広く認識されています。

知的財産の影響を超えて、Anthropicは外国の競合からの蒸留キャンペーンが真の地政学的リスクをもたらすと主張しました。

"アメリカのモデルを蒸留する外国のラボは、その後、これらの無防備な能力を軍事、情報、監視システムに注入することができ、権威主義的な政府が攻撃的なサイバー作戦、偽情報キャンペーン、大規模監視のために最前線のAIを展開できるようにする"と、同社は述べました。

今後、Anthropicは疑わしいトラフィックを見分けるための検出システムを強化し、脅威インテリジェンスを共有し、アクセス制御を厳格化することで自らを保護すると述べました。

関連：CitriniのAI破滅報告書はソフトウェア、支払い株を急落させる

同社はまた、外国のAI企業が米国企業を攻撃するのを防ぐために、国内の業界参加者や立法者からのさらなる協力を求めました。

“どの企業もこれを単独で解決できません。前述のように、この規模の蒸留攻撃には、AI業界、クラウドプロバイダー、政策立案者全体での調整された対応が必要です。我々はこれを発表し、結果に利害関係を持つすべての人に証拠を提供します。”

雑誌：CryptoはClawdbot/Moltbotを愛し、AIエージェントのUber評価：AI Eye