Le Vera Rubin NVL72 de NVIDIA affiche un bond considérable en efficacité énergétique : jusqu’à 30 fois plus de débit de traitement agentique par watt que le GB300 NVL72. Ce n’est pas une erreur.
Le hic ? La capacité HBM reste inchangée, à 288 Go. Vous n’avez donc pas plus de mémoire, mais vous en faites beaucoup plus avec celle dont vous disposez.
La bande passante est multipliée par 2,4 : elle passe de 8 To/s à 19,2 To/s. C’est là que se trouve le véritable gain de performances.
C’est du NVIDIA tout craché : miser fortement sur l’efficacité et la bande passante, maintenir la capacité et laisser le marché décider si la mémoire devient un goulot d’étranglement.
Pour les charges de travail d’IA limitées par le calcul plutôt que par la mémoire, c’est une énorme avancée. Pour celles qui se heurtent aux limites de la mémoire, c’est une autre histoire.
Voyons comment réagissent les hyperscalers et les laboratoires d’IA. À cette échelle, l’efficacité change rapidement l’économie du déploiement.
Le hic ? La capacité HBM reste inchangée, à 288 Go. Vous n’avez donc pas plus de mémoire, mais vous en faites beaucoup plus avec celle dont vous disposez.
La bande passante est multipliée par 2,4 : elle passe de 8 To/s à 19,2 To/s. C’est là que se trouve le véritable gain de performances.
C’est du NVIDIA tout craché : miser fortement sur l’efficacité et la bande passante, maintenir la capacité et laisser le marché décider si la mémoire devient un goulot d’étranglement.
Pour les charges de travail d’IA limitées par le calcul plutôt que par la mémoire, c’est une énorme avancée. Pour celles qui se heurtent aux limites de la mémoire, c’est une autre histoire.
Voyons comment réagissent les hyperscalers et les laboratoires d’IA. À cette échelle, l’efficacité change rapidement l’économie du déploiement.