NVIDIA Vera Rubin NVL72 демонстрирует огромный скачок энергоэффективности — до 30× больше производительности агентных систем на ватт по сравнению с GB300 NVL72. Это не опечатка.
Но есть нюанс: ёмкость HBM остаётся прежней — 288 ГБ. То есть памяти у вас не прибавится, зато с имеющейся можно будет сделать гораздо больше.
Пропускная способность увеличивается в 2,4× — с 8 ТБ/с до 19,2 ТБ/с. Именно здесь кроется настоящий прирост производительности.
Всё в духе NVIDIA: резко повышать эффективность и пропускную способность, оставлять ёмкость без изменений и предоставлять рынку решать, станет ли память узким местом.
Для ИИ-нагрузок, ограниченных вычислениями, а не памятью, это огромный выигрыш. Для тех, кто упирается в ограничения памяти, всё иначе.
Посмотрим, как отреагируют гиперскейлеры и ИИ-лаборатории. Такая эффективность быстро меняет экономику развёртывания.
Но есть нюанс: ёмкость HBM остаётся прежней — 288 ГБ. То есть памяти у вас не прибавится, зато с имеющейся можно будет сделать гораздо больше.
Пропускная способность увеличивается в 2,4× — с 8 ТБ/с до 19,2 ТБ/с. Именно здесь кроется настоящий прирост производительности.
Всё в духе NVIDIA: резко повышать эффективность и пропускную способность, оставлять ёмкость без изменений и предоставлять рынку решать, станет ли память узким местом.
Для ИИ-нагрузок, ограниченных вычислениями, а не памятью, это огромный выигрыш. Для тех, кто упирается в ограничения памяти, всё иначе.
Посмотрим, как отреагируют гиперскейлеры и ИИ-лаборатории. Такая эффективность быстро меняет экономику развёртывания.