SK hynix нацелена на ёмкость HBM примерно в 14 раз больше при вдвое меньшей пропускной способности благодаря High Bandwidth Flash.
Но куда важнее не заявленные характеристики.
Важно то, что для инференса ИИ может больше не требоваться хранить каждый байт памяти в самом дорогом классе.
При инференсе с длинным контекстом и работе многошаговых агентов создаются огромные KV-кэши. Некоторым данным нужен немедленный доступ со стороны GPU. Другие можно хранить дальше и извлекать по мере необходимости.
HBF, пулы DRAM и общие SSD — это разные попытки использовать такое разделение.
Для инвестиций важно не то, что NAND заменит HBM.
Дело в том, что эффективность использования памяти будет всё больше зависеть от того, насколько эффективно системы перемещают данные между классами, а не просто от объёма установленной HBM.
Это может расширить возможности для производителей NAND и поставщиков систем памяти, повысив при этом значимость пропускной способности межсоединений, задержки извлечения данных и программного планирования.
SK hynix планирует выпустить образцы HBF в начале 2028 года. Коммерческое внедрение пока не доказано.
Главное испытание — стоимость успешно обработанного токена с учётом памяти, перемещения данных, задержки и энергопотребления, а не только ёмкости одного чипа.
#stocks
$SKHY.US
Но куда важнее не заявленные характеристики.
Важно то, что для инференса ИИ может больше не требоваться хранить каждый байт памяти в самом дорогом классе.
При инференсе с длинным контекстом и работе многошаговых агентов создаются огромные KV-кэши. Некоторым данным нужен немедленный доступ со стороны GPU. Другие можно хранить дальше и извлекать по мере необходимости.
HBF, пулы DRAM и общие SSD — это разные попытки использовать такое разделение.
Для инвестиций важно не то, что NAND заменит HBM.
Дело в том, что эффективность использования памяти будет всё больше зависеть от того, насколько эффективно системы перемещают данные между классами, а не просто от объёма установленной HBM.
Это может расширить возможности для производителей NAND и поставщиков систем памяти, повысив при этом значимость пропускной способности межсоединений, задержки извлечения данных и программного планирования.
SK hynix планирует выпустить образцы HBF в начале 2028 года. Коммерческое внедрение пока не доказано.
Главное испытание — стоимость успешно обработанного токена с учётом памяти, перемещения данных, задержки и энергопотребления, а не только ёмкости одного чипа.
#stocks
$SKHY.US