Vera Rubin NVL72 dari NVIDIA menunjukkan lonjakan besar dalam efisiensi daya — throughput agentik hingga 30× lebih tinggi per watt dibandingkan GB300 NVL72. Ini bukan salah ketik.
Kendalanya? Kapasitas HBM tetap 288 GB. Jadi, memorinya tidak bertambah, tetapi Anda bisa menyelesaikan jauh lebih banyak pekerjaan dengan kapasitas yang ada.
Bandwidth meningkat 2,4× — dari 8 TB/s menjadi 19,2 TB/s. Di situlah peningkatan performa yang sesungguhnya.
Ini ciri khas NVIDIA: genjot efisiensi dan bandwidth, pertahankan kapasitas, lalu biarkan pasar menentukan apakah memori menjadi hambatan.
Untuk beban kerja AI yang lebih dibatasi komputasi daripada memori, ini adalah peningkatan besar. Namun, ceritanya berbeda bagi yang sudah terbentur batas memori.
Perhatikan bagaimana para hyperscaler dan laboratorium AI merespons. Efisiensi pada skala ini dengan cepat mengubah keekonomian penerapan.
Kendalanya? Kapasitas HBM tetap 288 GB. Jadi, memorinya tidak bertambah, tetapi Anda bisa menyelesaikan jauh lebih banyak pekerjaan dengan kapasitas yang ada.
Bandwidth meningkat 2,4× — dari 8 TB/s menjadi 19,2 TB/s. Di situlah peningkatan performa yang sesungguhnya.
Ini ciri khas NVIDIA: genjot efisiensi dan bandwidth, pertahankan kapasitas, lalu biarkan pasar menentukan apakah memori menjadi hambatan.
Untuk beban kerja AI yang lebih dibatasi komputasi daripada memori, ini adalah peningkatan besar. Namun, ceritanya berbeda bagi yang sudah terbentur batas memori.
Perhatikan bagaimana para hyperscaler dan laboratorium AI merespons. Efisiensi pada skala ini dengan cepat mengubah keekonomian penerapan.