Anthropicのセキュリティ侵害では、AI開発企業が利用していた外部ソフトウェアを通じて、給与、社内メッセージ、業務情報が流出した。同社のモデルの重みにアクセスされたわけではないという。同社の商業、人事、ITシステムの一部にCathedralの研究者がアクセスし、テストのあり方や国家安全保障への影響をめぐる論争が巻き起こった。

要点

• Cathedralは、サードパーティ製アプリケーションを通じて社内の業務システムにアクセスした。

• Anthropicによると、顧客のプロンプトやモデルの構成要素にはアクセスされていない。

• ベンダーが修正を確認するまで、影響を受けたアプリケーションは無効化されたままでした。

• 両社は、報告内容とインシデントの重大性をめぐって意見が対立しています。

Anthropicのセキュリティ侵害で明らかになったこと

アクセスされたシステムには、人事記録や社内コミュニケーションのほか、商業情報も含まれていました。Cathedralによると、調査に使用したAIエージェントによって、会議の議事録、給与情報、採用内定、Slackのメッセージにアクセスできる経路が見つかりました。

影響を受けたシステムには、一部の顧客やパートナーの取引先情報のほか、基本的なアカウント情報も保存されていました。Anthropicは、研究者が顧客のプロンプト、モデルの応答、ソースコード、AIモデルの重みにアクセスすることはなかったと述べました。

侵入経路は、Anthropicが利用していた外部の管理・業務アプリケーションの脆弱性を通っていました。関係したベンダーの名前は明らかにされていません。そのため、アクセスの対象となったのは事業を支えるソフトウェアであり、Anthropicが研究者のアクセス対象外だったと説明したモデルの構成要素ではありませんでした。

Cathedralは、脆弱性を報告する窓口を設けるAnthropicの「外部研究者プログラム」に基づいてテストを実施しました。DOGEの元メンバーが設立したこのスタートアップは、政府機関や企業向けのAIサイバーセキュリティツールを開発しています。

Anthropicによるアクセスの検知と封じ込め

Anthropicによると、Cathedralから通知を受ける前に、監視システムが一部の活動を検知しており、その日のうちにアクセスを遮断しました。Anthropicのセキュリティ侵害への対応には、影響を受けたアプリケーションの無効化も含まれていました。

これらのアプリケーションは、ベンダーが脆弱性にパッチを適用したと確認した後にのみ復旧されました。研究者のアクセス遮断とソフトウェアの修正は、対応における別々の措置でした。

Anthropicは、Cathedral以外の誰かが脆弱性を悪用した証拠はないと述べました。

報告をめぐる争いは、露出したデータの範囲を超えている

AnthropicとCathedralは、調査報告の完全性とインシデントが国家安全保障に及ぼす重大性をめぐって意見が食い違っています。Anthropicは、Cathedralが自社システム上で行った活動をすべて報告しなかったと非難しました。

Anthropicのセキュリティ侵害は、AIモデルの保護と、それを取り巻くインフラの安全確保との違いを浮き彫りにしています。Anthropicによると、モデルの構成要素にはアクセスされなかった一方で、人事文書、会議記録、社内メッセージは露出したままでした。

Anthropicのレッドチーム責任者も、継続的なセキュリティテストと、ソフトウェアシステムの露出を減らすための再設計を提唱しました。

この記事は人工知能の支援を受けて作成され、編集チームによる確認を経ています。