#opg $OPG 先週、オンチェーンAIエージェントのデバッグで徹夜した。いちばん頭を抱えたのは、リモートモデルの重みがどう使われたのか、どうしても検証できなかったことだ。ログが画面いっぱいに並ぶのを見て、気分が悪くなった。この端末は本当にGPUで律儀に処理を実行したのか、それともキャッシュプールから口上を拾ってきて、私をごまかしただけなのか?
今どき「分散型の脳」をうたう界隈のプロジェクトも、Web3のきらびやかな外装を剥がせば、バックエンドはほぼすべてOpenAIの既製APIにつながっている。トークンを差し出して信仰税を払っても、手に入るのは正真正銘のクローズドなブラックボックスだ。パラメーターのバージョンすら照合できないのに、トラストレスなどと言えるのだろうか?開発者も追い詰められている。大手に月額料金を払い、重みを勝手に変更されないよう祈るか、多額の費用を投じて自前のノードを構築し、潔白を証明するコストが純粋な計算コストより高いと気づくか、その二択だ。
@OpenGradient(OPG)は単なる仲介業者にはならず、最も手ごわい課題に取り組んでいる。推論の全工程を監査可能なフレームワークに組み込むのだ。計算処理はGPUに任せ、品質検証はTEEハードウェアとzkML回路に委ねる。売り物は計算能力ではなく、「計算が改ざんされていない」という暗号学的な証明書だ。「非同期検証」の仕組みも実に巧みで、フロントエンドでは即座に結果を出して使い心地を保ち、バックグラウンドで時間をかけて証明を生成し、後からオンチェーンに記録する。レストランがまずメイン料理を出し、食べ終わってから材料表を渡すようなものだ。
出資者にはa16zが主導した900万ドル超の資金調達があり、さらにクオンツシステムの百戦錬磨のベテランも参加している。現在、Hubには2,000以上のモデルが登録済みだ。ただし、浮かれてばかりもいられない。TEEは完璧ではなく、zkMLの証明生成コストも依然として重い。Gasの手数料まで含めれば、実際の運用コストはクラウド事業者のAPIを直接呼び出すより、間違いなく痛い。何より厄介なのは検証の遅延だ。刻一刻と状況が変わるDeFiの暗黒の森では、証明がオンチェーンに記録されるまでの数分の差で、何度も清算されかねない。
来週は敵対的プロンプトを使って、あるプロトコルのTEEクラスターに「亀テスト」を仕掛け、ハードウェアの突破耐性がどこまであるのか、実地で探ってみるつもりだ。みんなはオンチェーン戦略を実行するとき、大規模モデルがもっともらしく幻覚を作り出すことと、結果はたまたま当たっていても推論の過程をまったく検証できないこと、どちらのほうが怖い?コメント欄で教えて。@OpenGradient
今どき「分散型の脳」をうたう界隈のプロジェクトも、Web3のきらびやかな外装を剥がせば、バックエンドはほぼすべてOpenAIの既製APIにつながっている。トークンを差し出して信仰税を払っても、手に入るのは正真正銘のクローズドなブラックボックスだ。パラメーターのバージョンすら照合できないのに、トラストレスなどと言えるのだろうか?開発者も追い詰められている。大手に月額料金を払い、重みを勝手に変更されないよう祈るか、多額の費用を投じて自前のノードを構築し、潔白を証明するコストが純粋な計算コストより高いと気づくか、その二択だ。
@OpenGradient(OPG)は単なる仲介業者にはならず、最も手ごわい課題に取り組んでいる。推論の全工程を監査可能なフレームワークに組み込むのだ。計算処理はGPUに任せ、品質検証はTEEハードウェアとzkML回路に委ねる。売り物は計算能力ではなく、「計算が改ざんされていない」という暗号学的な証明書だ。「非同期検証」の仕組みも実に巧みで、フロントエンドでは即座に結果を出して使い心地を保ち、バックグラウンドで時間をかけて証明を生成し、後からオンチェーンに記録する。レストランがまずメイン料理を出し、食べ終わってから材料表を渡すようなものだ。
出資者にはa16zが主導した900万ドル超の資金調達があり、さらにクオンツシステムの百戦錬磨のベテランも参加している。現在、Hubには2,000以上のモデルが登録済みだ。ただし、浮かれてばかりもいられない。TEEは完璧ではなく、zkMLの証明生成コストも依然として重い。Gasの手数料まで含めれば、実際の運用コストはクラウド事業者のAPIを直接呼び出すより、間違いなく痛い。何より厄介なのは検証の遅延だ。刻一刻と状況が変わるDeFiの暗黒の森では、証明がオンチェーンに記録されるまでの数分の差で、何度も清算されかねない。
来週は敵対的プロンプトを使って、あるプロトコルのTEEクラスターに「亀テスト」を仕掛け、ハードウェアの突破耐性がどこまであるのか、実地で探ってみるつもりだ。みんなはオンチェーン戦略を実行するとき、大規模モデルがもっともらしく幻覚を作り出すことと、結果はたまたま当たっていても推論の過程をまったく検証できないこと、どちらのほうが怖い?コメント欄で教えて。@OpenGradient