Samsung đi trước trong việc phát triển bộ nhớ NVHBM tùy chỉnh của $NVDA — và thông số lại trái ngược với điều mà mọi người từng kỳ vọng.
Theo Seoul Economic Daily, Samsung đang chế tạo một stack HBM4E 8 lớp theo yêu cầu của NVIDIA, chứ không phải các sản phẩm 12 lớp hay 16 lớp mà hãng đã chuẩn bị. Chiều cao stack đang được cắt giảm khoảng 33%. Tốc độ mục tiêu là 17–18 Gbps, nhanh hơn khoảng 22% so với các mẫu 14,4 Gbps trước đó của Samsung.
Trong nhiều năm, cuộc đua là xếp được nhiều lớp hơn và tăng dung lượng. Stack càng cao thì die càng mỏng, việc đóng gói càng khó, tỉ lệ lỗi (yield) càng thấp. Một linh kiện 8 lớp sẽ dễ sản xuất hơn và dễ vận chuyển với số lượng lớn hơn. NVIDIA dường như đang đánh đổi một phần dung lượng trên mỗi GPU để đổi lấy nhiều đơn vị hơn và tốc độ chân (pin) cao hơn.
Sản phẩm dự kiến sẽ xuất hiện trên Rubin Ultra, thế hệ GPU AI tiếp theo. Nền tảng đó được thiết kế để mở rộng các kết nối GPU–GPU từ 72 lên đến 576. Dung lượng bộ nhớ thấp hơn trên mỗi chip có thể được bù lại bằng cách kết nối nhiều GPU nhanh lại với nhau.
Điểm mạnh của Samsung ở đây là khả năng “làm trọn gói”. NVHBM cần cả DRAM và một lớp đế (base die) dựa trên logic. Samsung có thể tự thiết kế và tự sản xuất cả hai trong nội bộ. SK Hynix và Micron cũng đang phản hồi, nhưng bài báo cho rằng mô hình xưởng đúc (foundry) cộng với bộ nhớ của Samsung phù hợp hơn với một thông số tùy chỉnh.
NVIDIA không từ bỏ mô hình ba nhà cung cấp. Hãng đang thay đổi thông số: ít lớp hơn, tốc độ cao hơn, và một giao diện tùy chỉnh. Ở chu kỳ tiếp theo, yếu tố về sản lượng (volume) và yield có thể quan trọng hơn chiều cao stack tối đa.
Bạn kỳ vọng bao nhiêu nhu cầu của Rubin Ultra sẽ rơi vào NVHBM 8 lớp so với các stack HBM4E quy ước cao hơn?
Theo Seoul Economic Daily, Samsung đang chế tạo một stack HBM4E 8 lớp theo yêu cầu của NVIDIA, chứ không phải các sản phẩm 12 lớp hay 16 lớp mà hãng đã chuẩn bị. Chiều cao stack đang được cắt giảm khoảng 33%. Tốc độ mục tiêu là 17–18 Gbps, nhanh hơn khoảng 22% so với các mẫu 14,4 Gbps trước đó của Samsung.
Trong nhiều năm, cuộc đua là xếp được nhiều lớp hơn và tăng dung lượng. Stack càng cao thì die càng mỏng, việc đóng gói càng khó, tỉ lệ lỗi (yield) càng thấp. Một linh kiện 8 lớp sẽ dễ sản xuất hơn và dễ vận chuyển với số lượng lớn hơn. NVIDIA dường như đang đánh đổi một phần dung lượng trên mỗi GPU để đổi lấy nhiều đơn vị hơn và tốc độ chân (pin) cao hơn.
Sản phẩm dự kiến sẽ xuất hiện trên Rubin Ultra, thế hệ GPU AI tiếp theo. Nền tảng đó được thiết kế để mở rộng các kết nối GPU–GPU từ 72 lên đến 576. Dung lượng bộ nhớ thấp hơn trên mỗi chip có thể được bù lại bằng cách kết nối nhiều GPU nhanh lại với nhau.
Điểm mạnh của Samsung ở đây là khả năng “làm trọn gói”. NVHBM cần cả DRAM và một lớp đế (base die) dựa trên logic. Samsung có thể tự thiết kế và tự sản xuất cả hai trong nội bộ. SK Hynix và Micron cũng đang phản hồi, nhưng bài báo cho rằng mô hình xưởng đúc (foundry) cộng với bộ nhớ của Samsung phù hợp hơn với một thông số tùy chỉnh.
NVIDIA không từ bỏ mô hình ba nhà cung cấp. Hãng đang thay đổi thông số: ít lớp hơn, tốc độ cao hơn, và một giao diện tùy chỉnh. Ở chu kỳ tiếp theo, yếu tố về sản lượng (volume) và yield có thể quan trọng hơn chiều cao stack tối đa.
Bạn kỳ vọng bao nhiêu nhu cầu của Rubin Ultra sẽ rơi vào NVHBM 8 lớp so với các stack HBM4E quy ước cao hơn?
