AI企業は自社の利益率を借りている 🧾

$ICP と $FET はどちらも、AIのワークロードがより継続的に稼働する世界を見据えて開発を進めています。
私が見落とされがちだと思うのは、それが実現したとき、請求額がどうなるかという点です。

新しいユーザーが増えるたびに、推論処理も増えます。

すべてのリクエストを従量課金のAPIやクラウドGPUに通すなら、成功すればするほど計算コストも増え続けます。
需要が読めない場合や、需要が一時的に集中する場合には、クラウドは理にかなっています。

毎日リクエストを処理するモデルとなると、話は別です。

B3IQが取り組んでいるのは、まさにこのギャップです。

企業がNVIDIA製の物理マシンを購入し、B3が調達、構築、ホスティング、運用を担います。

所有者はrootアクセス権とOpenAI互換のゲートウェイを利用でき、APIキーからのリクエストは、そのアカウントが所有するハードウェアへルーティングされます。

そして、所有するB3IQマシンでの推論は、トークン単位の従量課金ではありません。

そのため、ワークロードの予測が立つようになれば、計算コストは上限のない従量課金ではなく、企業が所有するインフラのようなものになります。

また、社内で必要とされていないときは、マシンを稼働させて活用することもできます。遊休状態にしておく必要はありません。

これがクラウドに取って代わるとは思いません。

より興味深いのは、確実に使うと分かっている基礎部分は自社で所有し、予測できない急増分は借りるという構成です。

AI企業は長年、トークンあたりのコスト最適化に取り組んできました。

B3IQが問いかけているのは、そもそもそのトークンを生成するマシンを自社で所有すべきではないか、ということです。

これは、はるかに大きなインフラの問題です。

#AI #DePIN