SK hynix đặt mục tiêu đạt dung lượng HBM gấp khoảng 14 lần với băng thông bằng khoảng một nửa nhờ High Bandwidth Flash.
Nhưng bước tiến quan trọng hơn không nằm ở thông số nổi bật đó.
Mà là khả năng AI suy luận sẽ không còn cần mọi byte bộ nhớ nằm ở tầng đắt đỏ nhất.
Suy luận với ngữ cảnh dài và các tác tử nhiều lượt tạo ra bộ nhớ đệm KV khổng lồ. Một số dữ liệu cần được GPU truy cập ngay lập tức. Những dữ liệu khác có thể được lưu ở nơi xa hơn và truy xuất khi cần.
HBF, DRAM dùng chung theo cụm và SSD dùng chung là những cách tiếp cận khác nhau nhằm khai thác sự phân biệt đó.
Hàm ý đầu tư không phải là NAND sẽ thay thế HBM.
Mà là hiệu quả kinh tế của bộ nhớ có thể ngày càng phụ thuộc vào việc các hệ thống di chuyển dữ liệu giữa các tầng hiệu quả đến đâu, thay vì chỉ đơn giản là chúng lắp bao nhiêu HBM.
Điều đó có thể mở rộng cơ hội cho NAND và các nhà cung cấp hệ thống bộ nhớ, đồng thời khiến băng thông kết nối, độ trễ truy xuất và việc lập lịch bằng phần mềm trở nên quan trọng hơn.
SK hynix đặt mục tiêu cung cấp mẫu HBF vào đầu năm 2028. Việc ứng dụng thương mại vẫn chưa được chứng minh.
Phép thử thực sự là chi phí cho mỗi token được phục vụ thành công, bao gồm bộ nhớ, di chuyển dữ liệu, độ trễ và điện năng—chứ không chỉ riêng dung lượng mỗi chip.
#stocks
$SKHY.US
Nhưng bước tiến quan trọng hơn không nằm ở thông số nổi bật đó.
Mà là khả năng AI suy luận sẽ không còn cần mọi byte bộ nhớ nằm ở tầng đắt đỏ nhất.
Suy luận với ngữ cảnh dài và các tác tử nhiều lượt tạo ra bộ nhớ đệm KV khổng lồ. Một số dữ liệu cần được GPU truy cập ngay lập tức. Những dữ liệu khác có thể được lưu ở nơi xa hơn và truy xuất khi cần.
HBF, DRAM dùng chung theo cụm và SSD dùng chung là những cách tiếp cận khác nhau nhằm khai thác sự phân biệt đó.
Hàm ý đầu tư không phải là NAND sẽ thay thế HBM.
Mà là hiệu quả kinh tế của bộ nhớ có thể ngày càng phụ thuộc vào việc các hệ thống di chuyển dữ liệu giữa các tầng hiệu quả đến đâu, thay vì chỉ đơn giản là chúng lắp bao nhiêu HBM.
Điều đó có thể mở rộng cơ hội cho NAND và các nhà cung cấp hệ thống bộ nhớ, đồng thời khiến băng thông kết nối, độ trễ truy xuất và việc lập lịch bằng phần mềm trở nên quan trọng hơn.
SK hynix đặt mục tiêu cung cấp mẫu HBF vào đầu năm 2028. Việc ứng dụng thương mại vẫn chưa được chứng minh.
Phép thử thực sự là chi phí cho mỗi token được phục vụ thành công, bao gồm bộ nhớ, di chuyển dữ liệu, độ trễ và điện năng—chứ không chỉ riêng dung lượng mỗi chip.
#stocks
$SKHY.US