市場は、新しいチップが登場すれば古い$NVDA GPUの価値は自動的になくなるかのように、価格をつけ続けています。

しかし、レンタル市場は異なる実態を示しています。

報道によると、4年前のRTX 3090のレンタル価格は最近25%以上上昇。一方、$NBISはH100/H200の価格を押し上げており、$CRWV も引き続き大型のA100契約を獲得しています。

理由はシンプルです。

AI推論では、常に最速のGPUが必要なわけではありません。適切なコストで十分なVRAMを確保することが重要です。

企業向けAIの大部分は比較的小規模なモデルで動いており、そうした処理にB200/GB200級の計算能力を投入するのは、単に過剰です。

必要なのは、トークンあたりのコストを最小限に抑えながら、適切な量のメモリ、帯域幅、GPU処理能力を確保することです。

だからこそ、A100やH100は「旧型」であっても高い価値を保ち続けられるのです。

ウォール街が見るのは減価償却です。

エンジニアが見るのは稼働率です。

そして、GPUの供給が需要に大きく追いつくまでは、こうした「レガシー」GPUの価格決定力を侮るべきではありません。