最先端モデルに大金を払っているのに、こっそり安いモデルに差し替えられていないって、どうすればわかるのでしょう？😂😂

今のところ、確かめる方法はありません。Anthropicはこの問題を解決するため、FlashProveをオープンソース化しました。暗号技術からヒントを得た仕組みで、ブロックチェーンが取引の中身を見せずに、その取引が正当なものだと証明できるのと同じ「ゼロ知識証明」を使っています。

仕組みはとてもシンプルです。提供者はあらかじめモデルの「フィンガープリント」を作成し、その後は回答のたびに証明を添付します。モデルを見たり、自分で実行したりしなくても、その回答が本当に指定されたモデルから生成されたものか確認できます。ちなみに、Claudeも開発に協力しました。

ただし、実用化にはまだほど遠い状況です。証明がカバーするのは回答全体ではなく、1トークンだけ。しかも証明を1つ作るには、回答を生成するだけの場合の70～95倍もの計算リソースが必要です。

それでも、コストが下がれば、モデルを差し替える不正は終わりです。#Anthropic #AI #ZeroKnowledgeProofs