SK hynixは、High Bandwidth Flashにより、帯域幅を約半分に抑えつつ、HBM容量をおよそ14倍にすることを目指しています。
しかし、より重要な進展は、注目を集める仕様そのものではありません。
AIの推論で、すべてのメモリデータを最も高価な階層に置く必要がなくなる可能性です。
長いコンテキストを扱う推論やマルチターンエージェントは、膨大なKVキャッシュを生成します。一部のデータはGPUから即座にアクセスできる必要があります。それ以外のデータは、より離れた場所に保存し、必要なときに取り出すことができます。
HBF、プール型DRAM、共有SSDは、いずれもこの違いを活用しようとする異なるアプローチです。
投資上の含意は、NANDがHBMに取って代わるということではありません。
重要なのは、システムに搭載するHBMの量だけでなく、階層間でデータをどれだけ効率よく移動できるかが、メモリの経済性を左右するようになる可能性です。
その結果、NANDやメモリシステムのサプライヤーにとって機会が広がる一方、インターコネクト帯域幅、データ取得の遅延、ソフトウェアによるスケジューリングの重要性が高まる可能性があります。
SK hynixは2028年初頭にHBFサンプルの提供を目指しています。商用採用はまだ実証されていません。
本当の評価基準は、メモリ、データ移動、遅延、電力を含め、正常に処理したトークンあたりのコストです。チップあたりの容量だけではありません。
#stocks
$SKHY.US