#OPG Open Gradientを使っていて印象に残ったのは、検証が単にバックグラウンドで行われるのではなく、ワークフローの一部になることが多かった点です。ほとんどのAI製品は速度を最適化しています。Open Gradientは、その速度をある程度犠牲にしてでも透明性を高めようとしているようです。
いくつかのテストでは、レスポンスの生成が中央集権型の代替サービスより常に速いとは限りませんでした。差がはっきり感じられることもありました。他のサービスなら2～3秒で完了するタスクが、ネットワークの状況によってはもっと時間がかかることもあります。通常なら、これは欠点でしょう。
興味深いのは、AIへの需要が拡大し続けていることです。業界の推計によると、世界のAIインフラへの年間支出はすでに数千億ドル規模に達しており、推論ワークロードも急速に拡大し続けています。利用が拡大するにつれ、誰がリクエストを処理したのか、どこで処理されたのか、実行を検証できるのかといった問いが、ますます重要になります。
OpenGradientが次のAIサイクルで恩恵を受ける可能性があるのは、まさにこの点です。
前回のサイクルでは、生の性能が評価されました。次のサイクルでは、性能を支える信頼のレイヤーが評価されるかもしれません。ユーザーが突然、分散化を重視するようになるからではありません。AIが生成する意思決定の量が増えることで、説明責任を求める圧力が高まるからです。
検証だけで決め手になるとは、まだ確信できません。アーキテクチャに関係なく、動作が遅いと感じる製品の利用をやめる人は大勢います。しかし、AIの普及が加速し続け、検証の負荷を十分に軽く保てるなら、速度と信頼のバランスは多くの人が予想する以上に変化するかもしれません。
とはいえ、まだそこまで実現しているとは思いません。
#opg
$OPG