El Vera Rubin NVL72 de NVIDIA muestra un enorme salto en eficiencia energética: hasta 30× más rendimiento agéntico por vatio que el GB300 NVL72. No es un error tipográfico.
¿La pega? La capacidad de HBM se mantiene en 288 GB. Así que no obtienes más memoria, pero haces mucho más con la que tienes.
El ancho de banda aumenta 2,4×: de 8 TB/s a 19,2 TB/s. Ahí es donde se produce la verdadera mejora de rendimiento.
Esto es muy propio de NVIDIA: impulsar la eficiencia y el ancho de banda, mantener estable la capacidad y dejar que el mercado decida si la memoria se convierte en un cuello de botella.
Para las cargas de trabajo de IA limitadas por la capacidad de cálculo y no por la memoria, esto supone una gran ventaja. Para las que llegan al límite de memoria, es otra historia.
Fíjate en cómo reaccionan los hiperescaladores y los laboratorios de IA. Una eficiencia de esta magnitud cambia rápidamente la economía de la implementación.
¿La pega? La capacidad de HBM se mantiene en 288 GB. Así que no obtienes más memoria, pero haces mucho más con la que tienes.
El ancho de banda aumenta 2,4×: de 8 TB/s a 19,2 TB/s. Ahí es donde se produce la verdadera mejora de rendimiento.
Esto es muy propio de NVIDIA: impulsar la eficiencia y el ancho de banda, mantener estable la capacidad y dejar que el mercado decida si la memoria se convierte en un cuello de botella.
Para las cargas de trabajo de IA limitadas por la capacidad de cálculo y no por la memoria, esto supone una gran ventaja. Para las que llegan al límite de memoria, es otra historia.
Fíjate en cómo reaccionan los hiperescaladores y los laboratorios de IA. Una eficiencia de esta magnitud cambia rápidamente la economía de la implementación.