#零知识证明 このニュース、ちょっと面白い🧐🧐大金を払って利用している最上位モデルが、裏でこっそり安物にすり替えられているかもしれない？今、Anthropicは暗号資産業界の技術を使って「本物かどうかを確かめる」方法を実現しようとしている🔍
Anthropicが最近オープンソース化したFlashProveは、ブロックチェーンでよく使われるゼロ知識証明をAIの推論に応用したもの。
サービス提供者はまず、モデルの重みに暗号化された指紋を生成し、どのモデルを使っているのかを固定する。その後、出力のたびに数学的な証明を添付する。ユーザーは重みを受け取る必要も、モデルを自分で再実行する必要もなく、その出力が当初約束された重みから生成されたものか確認できる。Claude自身もこのシステムの開発と最適化に参加したそうだ。
ただ、実用化にはまだほど遠い。証明1つで検証できるのは出力トークン1つだけで、回答全体はまだ検証できない。さらに、証明の生成に必要なGPU計算能力は、通常の推論の70～95倍。1文字を検証するのに、1文字を生成するより何十倍も費用がかかる。これではおそらく、料金を払うサービス提供者はいないだろうね（笑）#Anthropic #AI