Card mới 350W của Intel được tuyên bố nhanh gấp 5,9 lần Nvidia, nhưng chi tiết mấu chốt lại nằm trong phần phụ lục chữ nhỏ
Intel chính thức công bố một loạt kết quả benchmark: D270 350W có hiệu năng nhanh hơn RTX PRO 6000 Blackwell 600W của Nvidia tới 5,9 lần.
Chỉ nhìn con số này thì khá khó tin. Nhưng đọc hết báo cáo thử nghiệm và phần phụ lục, bạn sẽ thấy Intel chọn chiến trường rất khéo, và những điểm họ nhắm tới quả thực đánh trúng chỗ đau của Nvidia.
Trước tiên, mức nhanh gấp 5,9 lần đến từ đâu?
Một số bài thử có mức chênh lệch lớn nhất đều là định giá quyền chọn bằng phép tính dấu phẩy động độ chính xác kép (FP64), thường dùng trong tài chính định lượng. Mô phỏng Monte Carlo kiểu châu Âu nhanh gấp 5,9 lần, Black-Scholes nhanh gấp 5,6 lần, định giá bằng cây nhị phân nhanh gấp 4,6 lần.
Chênh lệch lớn như vậy là do chính Nvidia. Để bảo vệ lợi nhuận của các card trung tâm dữ liệu như B200 và H200, hãng đã cắt giảm năng lực tính toán FP64 của mẫu workstation đầu bảng RTX PRO 6000 Blackwell xuống còn 1:64. D270 sử dụng kiến trúc Xe3P, có FP64 nguyên bản chạy ở tốc độ tối đa, với 64 FMA FP64 trên mỗi lõi. Mang một hạng mục mà đối thủ chủ động cắt giảm ra so sánh thì dĩ nhiên khả năng thắng sẽ cao.
Trong phụ lục còn có một chi tiết đáng chú ý. Máy thử nghiệm của Intel được lắp 1 card D270 và 3 card Arc Pro B70, còn máy của Nvidia lắp 8 card RTX PRO 6000. Báo cáo không cho biết mỗi bên đã bật bao nhiêu card khi chạy thử nghiệm tài chính. Vì vậy, cứ xem mức nhanh gấp 5,9 lần này cho vui thôi.
Chuyển sang suy luận mô hình lớn thì kết quả thực tế hơn nhiều.
Chạy Qwen3-30B-A3B (FP8) trên một card, thông lượng đầu ra của D270 bằng 1,12 lần RTX PRO 6000 Blackwell. Khi chạy Drex 2.0, độ trễ thấp hơn 29%.
Mức 1,12 lần thoạt nhìn khá khiêm tốn, nhưng cần tính cả điện năng tiêu thụ. Với 350W so với 600W, chỉ dùng hơn một nửa điện năng mà vẫn vượt qua card workstation Blackwell cao cấp nhất trên mô hình MoE cấp 30B. Tỷ lệ hiệu năng trên điện năng này rất đáng gờm.
Điểm hấp dẫn nhất vẫn là bộ nhớ.
RTX PRO 6000 tiêu thụ 600W nhưng chỉ có 96GB GDDR7. Intel không tranh mua HBM vừa đắt vừa khan hàng, mà trực tiếp trang bị LPDDR5X cho card PCIe tản nhiệt khí 350W. Phiên bản tham chiếu có dung lượng khởi điểm 160GB, băng thông 1,5 TB/s. Phiên bản tùy chỉnh của các nhà sản xuất card có thể đạt tối đa 480GB trên một card.
Một card tản nhiệt khí nhồi được 480GB có ý nghĩa gì? Trước đây, muốn chứa trọng số của một mô hình cực lớn đầy đủ, bạn phải gom cả một tủ card hoặc dùng đến cụm máy tính giá trên trời. Giờ đây, chỉ cần một card 350W là đủ. Với những người muốn chạy mô hình lớn tại chỗ, dung lượng này thiết thực hơn bất kỳ mức chênh lệch benchmark nào.
Intel cũng đã đưa ra cách triển khai. Tại SC26, Intel và SambaNova đã phối hợp xây dựng một giải pháp phân chia nhiệm vụ. D270 với bộ nhớ lớn đảm nhiệm xử lý Prefill (tiền nạp) của lượng ngữ cảnh khổng lồ, sau đó chuyển việc cho SambaNova SN50 có băng thông cao để xuất Token. Mỗi bên phụ trách một khâu về dung lượng và băng thông, phân công rất rõ ràng.
Nhiều năm qua, Nvidia luôn siết chặt dung lượng bộ nhớ, chia các phân khúc một cách chính xác từng nấc. Nếu tiếp tục theo hướng này, miếng bánh béo bở của suy luận với bộ nhớ lớn rất có thể sẽ bị chia bớt cho những sản phẩm như của Intel, vốn dùng LPDDR5X để tăng dung lượng.
Intel chính thức công bố một loạt kết quả benchmark: D270 350W có hiệu năng nhanh hơn RTX PRO 6000 Blackwell 600W của Nvidia tới 5,9 lần.
Chỉ nhìn con số này thì khá khó tin. Nhưng đọc hết báo cáo thử nghiệm và phần phụ lục, bạn sẽ thấy Intel chọn chiến trường rất khéo, và những điểm họ nhắm tới quả thực đánh trúng chỗ đau của Nvidia.
Trước tiên, mức nhanh gấp 5,9 lần đến từ đâu?
Một số bài thử có mức chênh lệch lớn nhất đều là định giá quyền chọn bằng phép tính dấu phẩy động độ chính xác kép (FP64), thường dùng trong tài chính định lượng. Mô phỏng Monte Carlo kiểu châu Âu nhanh gấp 5,9 lần, Black-Scholes nhanh gấp 5,6 lần, định giá bằng cây nhị phân nhanh gấp 4,6 lần.
Chênh lệch lớn như vậy là do chính Nvidia. Để bảo vệ lợi nhuận của các card trung tâm dữ liệu như B200 và H200, hãng đã cắt giảm năng lực tính toán FP64 của mẫu workstation đầu bảng RTX PRO 6000 Blackwell xuống còn 1:64. D270 sử dụng kiến trúc Xe3P, có FP64 nguyên bản chạy ở tốc độ tối đa, với 64 FMA FP64 trên mỗi lõi. Mang một hạng mục mà đối thủ chủ động cắt giảm ra so sánh thì dĩ nhiên khả năng thắng sẽ cao.
Trong phụ lục còn có một chi tiết đáng chú ý. Máy thử nghiệm của Intel được lắp 1 card D270 và 3 card Arc Pro B70, còn máy của Nvidia lắp 8 card RTX PRO 6000. Báo cáo không cho biết mỗi bên đã bật bao nhiêu card khi chạy thử nghiệm tài chính. Vì vậy, cứ xem mức nhanh gấp 5,9 lần này cho vui thôi.
Chuyển sang suy luận mô hình lớn thì kết quả thực tế hơn nhiều.
Chạy Qwen3-30B-A3B (FP8) trên một card, thông lượng đầu ra của D270 bằng 1,12 lần RTX PRO 6000 Blackwell. Khi chạy Drex 2.0, độ trễ thấp hơn 29%.
Mức 1,12 lần thoạt nhìn khá khiêm tốn, nhưng cần tính cả điện năng tiêu thụ. Với 350W so với 600W, chỉ dùng hơn một nửa điện năng mà vẫn vượt qua card workstation Blackwell cao cấp nhất trên mô hình MoE cấp 30B. Tỷ lệ hiệu năng trên điện năng này rất đáng gờm.
Điểm hấp dẫn nhất vẫn là bộ nhớ.
RTX PRO 6000 tiêu thụ 600W nhưng chỉ có 96GB GDDR7. Intel không tranh mua HBM vừa đắt vừa khan hàng, mà trực tiếp trang bị LPDDR5X cho card PCIe tản nhiệt khí 350W. Phiên bản tham chiếu có dung lượng khởi điểm 160GB, băng thông 1,5 TB/s. Phiên bản tùy chỉnh của các nhà sản xuất card có thể đạt tối đa 480GB trên một card.
Một card tản nhiệt khí nhồi được 480GB có ý nghĩa gì? Trước đây, muốn chứa trọng số của một mô hình cực lớn đầy đủ, bạn phải gom cả một tủ card hoặc dùng đến cụm máy tính giá trên trời. Giờ đây, chỉ cần một card 350W là đủ. Với những người muốn chạy mô hình lớn tại chỗ, dung lượng này thiết thực hơn bất kỳ mức chênh lệch benchmark nào.
Intel cũng đã đưa ra cách triển khai. Tại SC26, Intel và SambaNova đã phối hợp xây dựng một giải pháp phân chia nhiệm vụ. D270 với bộ nhớ lớn đảm nhiệm xử lý Prefill (tiền nạp) của lượng ngữ cảnh khổng lồ, sau đó chuyển việc cho SambaNova SN50 có băng thông cao để xuất Token. Mỗi bên phụ trách một khâu về dung lượng và băng thông, phân công rất rõ ràng.
Nhiều năm qua, Nvidia luôn siết chặt dung lượng bộ nhớ, chia các phân khúc một cách chính xác từng nấc. Nếu tiếp tục theo hướng này, miếng bánh béo bở của suy luận với bộ nhớ lớn rất có thể sẽ bị chia bớt cho những sản phẩm như của Intel, vốn dùng LPDDR5X để tăng dung lượng.


