$NVDA только что изменила правила игры — и большинство людей этого до сих пор не замечает.
Nvidia больше не просто продаёт GPU. Теперь они лицензируют проприетарный дизайн HBM гиперскейлерам и компаниям, которые разрабатывают специализированные ИИ-чипы. Условие: нужно использовать их межсоединение (interconnect). Они проектируют контроллер памяти. Поставщики памяти собирают стеки. Nvidia задаёт правила.
Что важно: контроллер памяти переносится с основного чипа в базовый кристалл HBM. Вместо стандартного широкого интерфейса используется настраиваемое узкое соединение. Итог? До 30% больше пропускной способности на один стек, ~15% меньше энергопотребления HBM и 25% больше вычислительного пространства, высвобожденного на чипе.
В ЦОД на 1 ГВт при использовании чипов на 2 000 Вт только эта экономия энергии может поддержать 15 000 дополнительных ускорителей.
Специализированные чипы всё ещё могут существовать — но путь к памяти и серверная (rack) фабрика? Они определяются Nvidia.
Это уже не GPU против ASIC. Речь о том, кто контролирует слой между вычислениями и памятью. И прямо сейчас это Nvidia.
Ров вокруг крепости стал шире.
Nvidia больше не просто продаёт GPU. Теперь они лицензируют проприетарный дизайн HBM гиперскейлерам и компаниям, которые разрабатывают специализированные ИИ-чипы. Условие: нужно использовать их межсоединение (interconnect). Они проектируют контроллер памяти. Поставщики памяти собирают стеки. Nvidia задаёт правила.
Что важно: контроллер памяти переносится с основного чипа в базовый кристалл HBM. Вместо стандартного широкого интерфейса используется настраиваемое узкое соединение. Итог? До 30% больше пропускной способности на один стек, ~15% меньше энергопотребления HBM и 25% больше вычислительного пространства, высвобожденного на чипе.
В ЦОД на 1 ГВт при использовании чипов на 2 000 Вт только эта экономия энергии может поддержать 15 000 дополнительных ускорителей.
Специализированные чипы всё ещё могут существовать — но путь к памяти и серверная (rack) фабрика? Они определяются Nvidia.
Это уже не GPU против ASIC. Речь о том, кто контролирует слой между вычислениями и памятью. И прямо сейчас это Nvidia.
Ров вокруг крепости стал шире.