今週、OpenGradientを思ったよりも注意深く見ていて、注目したのはみんなが繰り返している「AIインフラのナラティブ」ではなく、ネットワーク全体での初期の活動が不均一に感じられることだ。
いくつかのノードは推論リクエストを処理していて常に忙しそうに見えるが、他のノードは報酬やルーティングの変化までじっとしている。これは、「参加」が表面的には高いように見えるが、実際の負荷分配が異なるストーリーを語る初期のDePINサイクルを思い出させる。
また、ほとんどの人が「スケールでのモデルホスティング」について話しているが、あまり議論されていないのは検証の部分だと思う。Open Intelligenceが信頼できるインフラを目指すなら、誰かがレイテンシを犠牲にすることなく出力を検証する必要がある。このトレードオフは厄介だ。厳しすぎるとすべてが遅くなり、緩すぎると基本的にランダムなコンピューティングプロバイダーを信頼することになる。
実際、モデルのデプロイメントにもっと盛り上がると思っていたが、見ているとノードオペレーターたちがGPU切り替えの挙動やインセンティブに応じてワークロードをどう回しているかについて静かな会話をしている。それは、表面的なUIよりも実際の競争が形成されている場所に近い感じがする。
市場がまだ誤って評価しているとは言わないが、人々が「AIクラウド」の見出しを読んでいて、その下の配管を見ていないように感じる。
もし検証がコンピュートのボトルネックになるなら、価値はGPU供給から推論における信頼をコントロールする者に移るのか?その部分は今のところ過小評価されているように感じる。
#opg $OPG @OpenGradient
$SPCXB $SAMSUNG
いくつかのノードは推論リクエストを処理していて常に忙しそうに見えるが、他のノードは報酬やルーティングの変化までじっとしている。これは、「参加」が表面的には高いように見えるが、実際の負荷分配が異なるストーリーを語る初期のDePINサイクルを思い出させる。
また、ほとんどの人が「スケールでのモデルホスティング」について話しているが、あまり議論されていないのは検証の部分だと思う。Open Intelligenceが信頼できるインフラを目指すなら、誰かがレイテンシを犠牲にすることなく出力を検証する必要がある。このトレードオフは厄介だ。厳しすぎるとすべてが遅くなり、緩すぎると基本的にランダムなコンピューティングプロバイダーを信頼することになる。
実際、モデルのデプロイメントにもっと盛り上がると思っていたが、見ているとノードオペレーターたちがGPU切り替えの挙動やインセンティブに応じてワークロードをどう回しているかについて静かな会話をしている。それは、表面的なUIよりも実際の競争が形成されている場所に近い感じがする。
市場がまだ誤って評価しているとは言わないが、人々が「AIクラウド」の見出しを読んでいて、その下の配管を見ていないように感じる。
もし検証がコンピュートのボトルネックになるなら、価値はGPU供給から推論における信頼をコントロールする者に移るのか?その部分は今のところ過小評価されているように感じる。
#opg $OPG @OpenGradient
$SPCXB $SAMSUNG