Samsung Electronics представила zHBM — технологию памяти, которую можно напрямую «стопкой» размещать поверх ИИ-чипов в 3D. По данным Sina Finance, Samsung заявила, что прорыв нацелен на ускорение отклика существующих ИИ-систем более чем в 10 раз.

16 сентября Ким Индонг, руководитель отдела планирования продуктов памяти в Samsung America Semiconductor Division (DSA), выступил с keynote на саммите AI Infrastructure Summit в Центре конвенций Санта-Клары (Калифорния), представив смену парадигмы в чипах для хранения данных в ИИ. Ким отметил, что текущие системы разговорного ИИ имеют потолок отклика на пользователя около 100 токенов в секунду, и Samsung намерена поднять его до 1 000 токенов в секунду для грядущей эпохи ИИ-агентов.

Samsung также выпустила технологическую дорожную карту для zNAND-O — решения для 3D-хранения данных на базе флэш-памяти NAND, ориентированного на рынок edge AI. Ким заявил, что к 2030 году локальное развертывание крупномасштабных моделей с триллионом параметров на устройствах, таких как AI-рабочие станции, станет обычным явлением, и что использование zNAND-O вместо DRAM для построения памяти для моделей с триллионом параметров обойдется лишь в одну шестую стоимости. Samsung планирует начать поставки образцов zNAND-O клиентам в больших масштабах с 2028 года.