#opg $OPG @OpenGradient

私は、ほとんどのAI会話が同じ前提から始まっていることに、ますます気づくようになりました。

知性は希少な資源である。

分散型AIシステムを学ぶ時間を重ねるうちに、その前提は間違っているのかもしれないと思い始めています。

モデルは四半期ごとに、より安く、より速く、そしてより利用しやすくなっています。残り続けているのは、あまり議論されない別の何かです。それは検証です。

その考えは、OpenGradientのアーキテクチャを調べている間、何度もよみがえりました。多くのAIシステムは、計算がどのように行われたのか、データがどこから来たのか、あるいは実行が主張どおりに起きたのかを確認せずに、ユーザーに出力を信じるよう求めます。システムは、意思決定が現実の経済的な結果を伴い始めるまでは機能します。

私は、AIをシンプルな枠組みで捉えるようになってきました。知性 vs 検証 です。

知性は答えを生み出します。検証は確信を生み出します。

OpenGradientが興味深いのは、より賢いモデルを作ろうとする点ではありません。Trusted Execution Environments、zkML、データの来歴（provenance）、プライバシーを保護する計算といった仕組みを探り、それらによって、すべての内部をさらさずにAIの実行を監査可能にしようとしている点です。

隠れた強みは、連携（コーディネーション）かもしれません。検証は、互いを知らない、あるいは互いを信用しない当事者の間に共通の参照点を作ります。

未解決の課題も同様に重要です。証明システムはコスト、複雑さ、遅延を追加します。検証があまりに高価になった場合、ユーザーはそれでも検証を求めるでしょうか？

AIが拡大するにつれて、どちらがより価値を持つようになるのでしょうか。答えを生成するモデル、それとも、答えが信頼できることを証明するネットワークですか？

$OPG #trades @OpenGradient