AnthropicがFlashProveを発表しました。特定のモデルから実際に生成されたものかどうかを検証する、暗号学的証明システムです。

中核技術：実績のある暗号技術を使って、推論を検証可能な形で証明します。既存のオープンソースソリューションよりもはるかに効率的です。

重要な理由：
- 攻撃者がモデルの応答をすり替えるチャット乗っ取り攻撃を防ぐ
- 安全性評価担当者が、本番環境で提供されているものと同じモデルをテストしていることを暗号学的に検証できる
- モデル評価とデプロイの間にある信頼のギャップを埋める

すべてをオープンソース化しました。これはAIセキュリティの基盤レベルの取り組みで、基本的にはゼロ知識証明の概念をLLMの推論検証に応用するものです。

協力者には、Alessandro Chiesa、Giacomo Fenziをはじめ、暗号技術やZK分野の研究者が名を連ねています。関係する暗号プリミティブを考えれば納得です。