NVIDIAのVera Rubin NVL72は、電力効率を大幅に向上させています。GB300 NVL72と比べて、ワットあたりのエージェント処理スループットは最大30倍です。誤植ではありません。

ただし、注意点があります。HBM容量は288 GBのままです。つまり、メモリが増えるわけではありませんが、手持ちのメモリでこなせる処理量は大幅に増えます。

帯域幅は2.4倍に拡大し、8 TB/sから19.2 TB/sになります。本当の性能向上はここにあります。

これはNVIDIAらしい戦略です。効率と帯域幅を大きく高め、容量は据え置きにして、メモリがボトルネックになるかどうかは市場の判断に委ねています。

メモリではなく演算がボトルネックとなるAIワークロードにとって、これは大きな朗報です。一方、メモリの限界に達しているワークロードでは、話は別です。

ハイパースケーラーやAI研究機関の反応に注目しましょう。この規模の効率向上は、導入の経済性を急速に変える可能性があります。