NVIDIAs Vera Rubin NVL72 zeigt einen gewaltigen Sprung bei der Energieeffizienz – bis zu 30× mehr agentischer Durchsatz pro Watt im Vergleich zur GB300 NVL72. Das ist kein Tippfehler.
Der Haken? Die HBM-Kapazität bleibt mit 288 GB unverändert. Du bekommst also nicht mehr Speicher, kannst mit dem vorhandenen aber deutlich mehr erreichen.
Die Bandbreite steigt um das 2,4-Fache – von 8 TB/s auf 19,2 TB/s. Hier liegt der eigentliche Leistungsgewinn.
Das ist typisch NVIDIA: Effizienz und Bandbreite kräftig steigern, die Kapazität konstant halten und dem Markt überlassen, ob der Speicher zum Engpass wird.
Für KI-Workloads, die eher durch die Rechenleistung als durch den Speicher begrenzt sind, ist das ein großer Gewinn. Für Workloads, die an Speichergrenzen stoßen, sieht die Sache anders aus.
Beobachte, wie die Hyperscaler und KI-Labore darauf reagieren. Effizienz in diesem Ausmaß verändert die Wirtschaftlichkeit des Einsatzes sehr schnell.
Der Haken? Die HBM-Kapazität bleibt mit 288 GB unverändert. Du bekommst also nicht mehr Speicher, kannst mit dem vorhandenen aber deutlich mehr erreichen.
Die Bandbreite steigt um das 2,4-Fache – von 8 TB/s auf 19,2 TB/s. Hier liegt der eigentliche Leistungsgewinn.
Das ist typisch NVIDIA: Effizienz und Bandbreite kräftig steigern, die Kapazität konstant halten und dem Markt überlassen, ob der Speicher zum Engpass wird.
Für KI-Workloads, die eher durch die Rechenleistung als durch den Speicher begrenzt sind, ist das ein großer Gewinn. Für Workloads, die an Speichergrenzen stoßen, sieht die Sache anders aus.
Beobachte, wie die Hyperscaler und KI-Labore darauf reagieren. Effizienz in diesem Ausmaß verändert die Wirtschaftlichkeit des Einsatzes sehr schnell.