SK hynix vise une capacité HBM environ 14 fois supérieure, avec à peu près la moitié de la bande passante, grâce à la mémoire flash à bande passante élevée (HBF).
Mais l’évolution la plus importante ne réside pas dans cette spécification mise en avant.
C’est la possibilité que l’inférence IA n’ait plus besoin de conserver chaque octet de mémoire dans le niveau le plus coûteux.
L’inférence à long contexte et les agents à plusieurs tours génèrent d’énormes caches KV. Certaines données doivent être immédiatement accessibles au GPU. D’autres peuvent être stockées plus loin et récupérées au besoin.
La HBF, la DRAM mutualisée et les SSD partagés sont autant de solutions différentes pour tirer parti de cette distinction.
La conséquence pour l’investissement n’est pas que la NAND remplace la HBM.
C’est que l’économie de la mémoire dépendra de plus en plus de l’efficacité avec laquelle les systèmes déplacent les données entre les différents niveaux, et non simplement de la quantité de HBM qu’ils installent.
Cela pourrait élargir les perspectives pour la NAND et les fournisseurs de systèmes mémoire, tout en renforçant l’importance de la bande passante des interconnexions, de la latence de récupération et de l’ordonnancement logiciel.
SK hynix prévoit de fournir des échantillons de HBF début 2028. L’adoption commerciale reste à démontrer.
Le véritable critère est le coût par jeton traité avec succès, en tenant compte de la mémoire, du déplacement des données, de la latence et de la consommation électrique — et non de la seule capacité par puce.
#stocks
$SKHY.US
Mais l’évolution la plus importante ne réside pas dans cette spécification mise en avant.
C’est la possibilité que l’inférence IA n’ait plus besoin de conserver chaque octet de mémoire dans le niveau le plus coûteux.
L’inférence à long contexte et les agents à plusieurs tours génèrent d’énormes caches KV. Certaines données doivent être immédiatement accessibles au GPU. D’autres peuvent être stockées plus loin et récupérées au besoin.
La HBF, la DRAM mutualisée et les SSD partagés sont autant de solutions différentes pour tirer parti de cette distinction.
La conséquence pour l’investissement n’est pas que la NAND remplace la HBM.
C’est que l’économie de la mémoire dépendra de plus en plus de l’efficacité avec laquelle les systèmes déplacent les données entre les différents niveaux, et non simplement de la quantité de HBM qu’ils installent.
Cela pourrait élargir les perspectives pour la NAND et les fournisseurs de systèmes mémoire, tout en renforçant l’importance de la bande passante des interconnexions, de la latence de récupération et de l’ordonnancement logiciel.
SK hynix prévoit de fournir des échantillons de HBF début 2028. L’adoption commerciale reste à démontrer.
Le véritable critère est le coût par jeton traité avec succès, en tenant compte de la mémoire, du déplacement des données, de la latence et de la consommation électrique — et non de la seule capacité par puce.
#stocks
$SKHY.US