この2年間でAIに関して最もイライラしたのは、答えを確認することができないことでした。OpenGradientが毎回の推論に暗号学的証明を付けているのを見て、やっとこのブラックボックスが誰かに分解されることに期待を持ちました。
自分の体験から言えば、最近、あるメインストリームモデルを使ってコンプライアンスの基準を確認したところ、答えは一見正当なものでしたが、いくつかの引用を見返すと、3つのうち2つはそのモデル自身が作ったものでした。同じ質問を別のアカウントで聞くと、答えが変わっており、そのモデルがこっそりと入れ替わったかどうかは教えてくれません。このブラックボックスが問題なのは、プライバシーだけでなく、得られた答えがそのモデルがあなたが考えている環境で実行されたものであるかどうかが分からないことです。$RE
例え話をすると、メインストリームのAIはドライブレコーダーのないタクシーのようなもので、運転手が遠回りしたかどうかはあなたの後付けの推測に依存しています。ドライブレコーダーを装着すれば、毎キロごとに遡って確認できます。OpenGradientがやっているのは、AIにドライブレコーダーを装着することです。毎回の推論に暗号学的証明を添付し、誰が、どのモデルを、どの環境で、何を生成したかを、誰でも独立して検証できるようにしています。メーカーの供給を信じる必要はありません。
以前は、検証可能であることはエンジニアの潔癖症に過ぎないと思っていましたが、200万回以上の検証可能な推論、50万件以上の暗号学的証明、200万以上のユーザーをカバーしている公開データを調べた結果、これはデモではなく、実際に処理されたトラフィックであることを理解しました。検証可能なAIが初めて消費者レベルの規模に達し、もはや論文の中のzkのおもちゃではありません。
私は彼らの責任を負いません。各証明には計算力のコストがかかります。zkが億回の推論に拡大する段階では、コスト曲線はまだ下がっていません。証明はそのモデルが実際に実行されたことを保証するだけで、モデルが適切かどうかは保証しません。ブラックボックスが開かれたとしても、その中に詐欺師がいるかどうかは別の問題です。テストネットの段階で証明システムが一度アップグレードされると、古いバージョンのいくつかの特性が変わるでしょう。
自分が見たいことはかなり直接的です。OpenGradientのメインネットが稼働した後、この証明のエンドツーエンドのコストをさらに圧縮できるか、第三者の独立した検証ツールが公式と一致する結果を出せるか、また、どの日にAIアプリケーションが各出力の証明ハッシュをフロントエンドに直接表示してユーザーに見せることを願うかです。これらの条件が整う前に、ブラックボックスが開かれるのは良いことですが、中に何が入っているのかは自分で再確認する必要があります。$HEI
#opg $OPG @OpenGradient