オープンソースのAIモデルは、誰もが思っているほどコスト削減にはならない――そして計算基盤(コンピュート・インフラ)を取引しているなら、これは重要です。
市場は「より安いトークンはAIインフラにとって弱材料だ」と、相変わらずパニックを続けています。違う見方です。トークン価格は関係ありません。重要なのは、完了したタスク1件あたりのコストです。
たとえば採用を考えてみてください。1人あたり2万ドルの人を3人雇うのか(合計6万ドル)、それとも1人あたり6万ドルの人を1人雇うのか。どちらも総コストは同じです。人件費が安く見えても、必要な人員が3倍になるなら、それは実際には安くありません。
AIにも同じ理屈が当てはまります。トークンが信じられないほど安いモデルでも、仕事を終えるのにトークンを3倍消費するなら――安くありません。唯一意味のある数字は、タスクあたりのコストです。
3F Researchによるリサーチアシスタント業務での実データ:最安のトークンを持つオープンソースモデルであるKimi K3は、Opus 5よりタスクあたりで29%高く、さらにGPT-5.6より19%高いのです。トークン効率が悪く、答えまで延々と回り道をして口数が多く、しかもすべてのステップごとに課金されます。
ここがポイントです。オープンソースモデルはインフラ需要を縮小しているわけではなく、むしろ拡大しています。特にメモリです。K3の各インスタンスを動かすのに、約1.4テラバイトのHBMが必要です。「安い」モデルが、実はメモリ消費の多い代表的なデプロイの一つだということですね。
次に市場が、別の中国のオープンソースモデルにまた騒ぎ立てるようなら、押し目を買いましょう。これは需要破壊の話ではなく、メモリと計算(コンピュート)の拡大ストーリーです。
市場は「より安いトークンはAIインフラにとって弱材料だ」と、相変わらずパニックを続けています。違う見方です。トークン価格は関係ありません。重要なのは、完了したタスク1件あたりのコストです。
たとえば採用を考えてみてください。1人あたり2万ドルの人を3人雇うのか(合計6万ドル)、それとも1人あたり6万ドルの人を1人雇うのか。どちらも総コストは同じです。人件費が安く見えても、必要な人員が3倍になるなら、それは実際には安くありません。
AIにも同じ理屈が当てはまります。トークンが信じられないほど安いモデルでも、仕事を終えるのにトークンを3倍消費するなら――安くありません。唯一意味のある数字は、タスクあたりのコストです。
3F Researchによるリサーチアシスタント業務での実データ:最安のトークンを持つオープンソースモデルであるKimi K3は、Opus 5よりタスクあたりで29%高く、さらにGPT-5.6より19%高いのです。トークン効率が悪く、答えまで延々と回り道をして口数が多く、しかもすべてのステップごとに課金されます。
ここがポイントです。オープンソースモデルはインフラ需要を縮小しているわけではなく、むしろ拡大しています。特にメモリです。K3の各インスタンスを動かすのに、約1.4テラバイトのHBMが必要です。「安い」モデルが、実はメモリ消費の多い代表的なデプロイの一つだということですね。
次に市場が、別の中国のオープンソースモデルにまた騒ぎ立てるようなら、押し目を買いましょう。これは需要破壊の話ではなく、メモリと計算(コンピュート)の拡大ストーリーです。