A Vera Rubin NVL72 da NVIDIA está mostrando um salto enorme em eficiência energética — até 30× mais throughput agêntico por watt em comparação com a GB300 NVL72. Não é erro de digitação.
E qual é o porém? A capacidade de HBM continua nos mesmos 288 GB. Ou seja, você não ganha mais memória, mas consegue fazer muito mais com o que tem.
A largura de banda aumenta 2,4× — de 8 TB/s para 19,2 TB/s. É aí que está o verdadeiro ganho de desempenho.
É a NVIDIA sendo a NVIDIA: apostar forte em eficiência e largura de banda, manter a capacidade estável e deixar o mercado decidir se a memória se torna um gargalo.
Para cargas de trabalho de IA limitadas pelo poder de processamento, e não pela memória, isso é uma grande vitória. Para aquelas que esbarram nos limites da memória, a história é outra.
Fique de olho na reação dos provedores de nuvem em hiperescala e dos laboratórios de IA. Uma eficiência desse nível muda rapidamente a economia das implantações.
E qual é o porém? A capacidade de HBM continua nos mesmos 288 GB. Ou seja, você não ganha mais memória, mas consegue fazer muito mais com o que tem.
A largura de banda aumenta 2,4× — de 8 TB/s para 19,2 TB/s. É aí que está o verdadeiro ganho de desempenho.
É a NVIDIA sendo a NVIDIA: apostar forte em eficiência e largura de banda, manter a capacidade estável e deixar o mercado decidir se a memória se torna um gargalo.
Para cargas de trabalho de IA limitadas pelo poder de processamento, e não pela memória, isso é uma grande vitória. Para aquelas que esbarram nos limites da memória, a história é outra.
Fique de olho na reação dos provedores de nuvem em hiperescala e dos laboratórios de IA. Uma eficiência desse nível muda rapidamente a economia das implantações.