この数日、「半導体業界の指標」と称されるHot Chips 2026会議が開催され、NVIDIA、マイクロン、SKハイニックスなどの主要メーカーが技術講演を行い、AI計算パフォーマンスの基盤となる次世代インフラの進化に焦点を当てました。過去数年、各社はトランジスタ密度やピーク計算性能を競っていましたが、今年の大会は、AI計算パフォーマンスの主なボトルネックが、演算コアからデータ搬送効率とストレージ・システムのアーキテクチャへと移っていることを示しました。メモリは、単なるデータ容器からシステムの構成要素へと変わりつつあります。HBMは、この一連の「ストレージ・スーパーサイクル」の中核エンジンですが、同様に物理的な制約にも直面しています。マイクロンは、同一容量におけるHBM3Eのシリコンウェハー寸法が従来のDDR5の約3倍であると開示しています。これは、巨大な並列データ・チャネル、TSV、そして電源ネットワークによるものです。典型的なGPUパッケージでは、メモリチップがシステムレベルのパッケージにおけるシリコン面積の約90%を占めます。HBMがウェハー生産能力に与える大きな消費は、業界が需要の急変に迅速に対応するのを難しくし、高価格化を招きます。これにより、AIシステムはデータ移動の性能ウォールに加えて、さらにコストウォールを抱えることになります。SKハイニックスも、HBMが16層、さらには20層へと進むにつれて、冷却とパッケージングが物理的限界に近づいており、ハイブリッド・ボンディングへの移行は必然の流れであると指摘しました。

ボトルネックに直面し、ストレージ原厂は論理計算へと拡張し始めています。サムスンは明確な3段階のロードマップを提示し、HBMベースダイをスマートなAIプラットフォームにしようとしています。第一段階はカスタムHBM（cHBM）で、メモリコントローラを先進のロジック製造プロセスで作られたHBMベースダイ上に移します。チップレット間（D2D）専用インターフェースで従来のHBM PHYを置き換えることで、XPU側でシリコン面積を5%〜10%回収でき、それが10%〜20%のシステム性能向上につながります。第二段階は先進HBM（AHBM）で、ベースダイの余剰領域に処理ユニットを統合し、大規模モデル推論で特に帯域消費が大きい注意（アテンション）機構を近メモリ実行へオフロードします。第三段階は3D積層HBM（zHBM）で、2.5Dの介在層を捨て、HBMをXPUの真上に垂直に積層します。サムスンのデータによれば、標準HBM4Eと比べてzHBMのI/O消費電力は約0.5 pJ/bitにすぎず、総DRAM消費電力は約70%低減し、帯域は2.3倍以上向上します。単一モジュールでは最大100Wを節約でき、約8.3%の消費電力の余剰をアクセラレータへ譲渡できるとのことです。それを実現するには、ウェーハ間および6ミクロン未満の微細ピッチでのハイブリッドな銅ボンディングが必要で、さらにDRAMとSoCロジックを最初から深く協調設計することが求められます。

推論エンドでは、容量需要の膨張がストレージの階層化トレンドを生み出しています。長いコンテキストや大量のKVキャッシュに直面すると、単純にHBMのコストだけで賄うのは難しく、業界では高帯域フラッシュ（HBF）容量がHBMの数十倍であると提案されています。各GBあたりの帯域はHBMの1/25に過ぎませんが、単一機で1兆パラメータ規模のモデルを搭載する、低バッチ処理、あるいはスパース注意などのシナリオでは、高容量の2次メモリ層として非常に優れた経済性を発揮します。AIによる機械式ハードディスクへの需要増加が供給不足を招き、大規模データセンターでは、TLC SSDとHDDの間に、低コストのQLC SSDをより広範に導入し始めています。これによりシステム性能が向上するだけでなく、NANDの出荷も押し上げられます。

市場にとって、Hot Chipsが放つのは単に数四半期の短期的なシグナルではなく、今後3〜5年の戦略トレンドを示すものです。産業チェーンの長期的価値は、主に3つの観点から捉えることができます。第一に、ストレージの原厂（メーカー）です。HBMがカスタマイズ化され、さらには演算チップとの垂直統合（zHBM）へと進むにつれ、サムスンやHynix（SK海力士）などは、単に「水を売る人」から、インテリジェントな計算プラットフォームの共同デザイナーへと転換しています。次世代アクセラレータのアーキテクチャ定義に深く関与することで、より強いプレミアム獲得能力と代替困難性を得られます。第二に、先端パッケージングとコアとなる装置材料です。マイクロバンプからハイブリッドボンディングへ、2.5Dから3D WoW積層への進化は、大幅な資本支出の増分をもたらします。これにより、上流のTSVエッチング装置、ハイブリッドボンディング装置、テスト装置、高性能の熱界面材料に投資の余地が生まれます。同時に検証可能な国内の装置/材料サプライヤーは、希少なプレミアムを享受できます。第三に、汎用AIハードウェアです。将来、AI向けのハードウェアは一律のものにはなりません。トレーニング側は、帯域と高密度集積を追求するzHBMに依存します。一方、推論側では、HBF、高容量LPDDR、そして企業向けQLC SSDを主とする異種分層体系が派生していきます。演算とメモリの一体化が深く融合する時代には、データにより近い工程ほど、創出するビジネス価値が大きくなります。