Theo thông tin được biết, SpaceX đang phát triển Kessel, một hệ thống quy mô tủ rack tùy chỉnh được xây dựng quanh nền tảng Vera Rubin của NVIDIA. Điểm đáng chú ý không phải là hệ thống vẫn giữ lại 72 GPU. Mà là những gì SpaceX dự định loại bỏ.
Theo thông tin được biết, Kessel thay các mô-đun cáp NVLink thông thường của NVIDIA bằng một bảng mạch in thụ động 84 lớp ở giữa, sử dụng vật liệu laminate phủ đồng M10 siêu ít hao hụt. Các khay tính toán và khay chuyển mạch được bố trí quay lưng vào nhau quanh bo mạch trung tâm này.
Cấu hình được cho là vẫn giữ lại 72 GPU Rubin, 36 CPU Vera, 18 khay tính toán và chín khay chuyển mạch NVLink. NVL72 tiêu chuẩn của NVIDIA sử dụng cùng cấu hình tính toán cơ bản, kết nối thông qua một bảng nối thụ động bằng cáp đồng.
Đây là một thay đổi kiến trúc đáng kể.
1. Bo mạch trung gian là thách thức kỹ thuật thực sự
Kết nối liên thông tốc độ cao không chỉ đơn thuần là một tập hợp dây dẫn nối GPU với các bộ chuyển mạch. Đó là một kênh điện có hiệu năng phụ thuộc vào suy hao chèn, suy hao phản hồi, nhiễu xuyên âm, điểm gián đoạn trở kháng và độ lệch thời gian.
Thay các cụm cáp bằng một PCB nhiều lớp sẽ làm thay đổi toàn bộ đường truyền tín hiệu.
Ưu điểm là tích hợp về mặt cấu trúc: ít cụm cáp hơn, ít kết nối riêng lẻ hơn và có thể đơn giản hóa việc lắp ráp ở cấp độ giá đỡ.
Đổi lại, bản thân bo mạch trung gian trở thành một linh kiện điện và sản xuất đòi hỏi cực kỳ khắt khe. Với 84 lớp, tính đồng nhất của vật liệu, độ chính xác khi ép lớp, thiết kế via và độ căn chỉnh giữa các lớp đều trở nên quan trọng. Một khiếm khuyết ở lớp bên trong có thể làm hỏng toàn bộ bo mạch.
Vật liệu ép lớp M10 được thiết kế để giảm suy hao tín hiệu tần số cao, nhưng vật liệu tốt hơn không tự động bảo đảm hệ thống tốt hơn. Toàn bộ kênh vẫn phải đáp ứng các yêu cầu điện của cấu trúc liên kết NVLink.
2. Vì sao dùng 84 lớp thay vì 156?
SemiAnalysis đưa tin Kessel sử dụng bo mạch trung gian M10 84 lớp, so với thiết kế M9 156 lớp dự kiến dành cho kiến trúc Kyber lớn hơn của NVIDIA.
Đây không đơn thuần là việc giảm độ phức tạp trong sản xuất.
Ít lớp hơn có thể giảm số công đoạn ép lớp và cải thiện quy trình sản xuất tiềm năng. Tuy nhiên, vật liệu M10 cao cấp hơn làm tăng chi phí vật liệu, trong khi bo mạch lớn hơn và các yêu cầu đi dây khắt khe vẫn tiếp tục gây ra thách thức về tỷ lệ thành phẩm.
Mục tiêu kỹ thuật thực sự là đạt được hiệu năng điện cần thiết với ít lớp hơn, mà không khiến chi phí vật liệu và tỷ lệ thành phẩm làm cho việc sản xuất trở nên không khả thi về mặt kinh tế.
Đây là sự đánh đổi giữa tính toàn vẹn tín hiệu, khả năng sản xuất và chi phí hệ thống.
3. SpaceX đang thay đổi ranh giới mua sắm
Thay đổi có tác động lớn hơn có thể nằm ở khía cạnh thương mại chứ không phải điện tử.
Theo thỏa thuận được đưa tin, SpaceX sẽ mua trực tiếp các cụm chip của NVIDIA, đồng thời tự tìm nguồn cung ứng độc lập cho nhiều linh kiện xung quanh hơn, qua đó không cần dùng các bo mạch tính toán L6 của NVIDIA.
Điều này chuyển trách nhiệm về thiết kế bo mạch, đánh giá chứng nhận linh kiện, kiểm định hệ thống và tỷ lệ thành phẩm trong sản xuất sang SpaceX cùng các đối tác sản xuất của công ty.
NVIDIA vẫn giữ lại giá trị từ GPU, CPU và công nghệ kết nối liên thông của mình, nhưng có thể từ bỏ một phần giá trị trong tích hợp hệ thống và chuỗi cung ứng phần cứng.
Đối với những khách hàng lớn có đủ nguồn lực kỹ thuật, điều này tạo ra một lựa chọn thay thế cho việc mua giá đỡ được tích hợp hoàn chỉnh.
4. Vì sao điều này quan trọng đối với hạ tầng AI
Ngành công nghiệp đã dành nhiều năm tối ưu hóa hiệu năng GPU. Nhưng ở quy mô giá đỡ, các yếu tố ngày càng trở thành giới hạn bao gồm phân phối điện, làm mát, tính toàn vẹn tín hiệu, đóng gói và tỷ lệ thành phẩm trong sản xuất.
Kiến trúc nhỏ gọn hơn không tự động đồng nghĩa với kinh tế hơn. Việc loại bỏ các cụm cáp chỉ tạo ra giá trị nếu khoản tiết kiệm vượt quá chi phí của bo mạch trung gian, công đoạn kiểm định bổ sung và tổn thất trong sản xuất.
Điều này đặc biệt quan trọng đối với việc triển khai trên quỹ đạo, nơi các yêu cầu tản nhiệt, mức phơi nhiễm bức xạ, khối lượng khi phóng và khả năng sửa chữa hạn chế tạo ra những ràng buộc mà các trung tâm dữ liệu trên mặt đất không gặp phải.
Giá đỡ đạt chuẩn sử dụng trên mặt đất không tự động trở thành phần cứng đạt chuẩn sử dụng trong không gian.
Hàm ý đối với đầu tư
Kessel có thể tạo ra cơ hội cho các nhà cung cấp có khả năng sản xuất vật liệu ép lớp siêu ít suy hao, PCB nhiều lớp tiên tiến, đầu nối tốc độ cao và hệ thống cấp điện, làm mát đáng tin cậy.
Tuy nhiên, mức độ liên quan về kỹ thuật không phải là bằng chứng cho thấy đã có đơn đặt hàng. Các chỉ báo mang tính quyết định sẽ là việc nhà cung cấp được chứng nhận, tỷ lệ thành phẩm trong sản xuất, triển khai giá đỡ thực tế và các đơn hàng lặp lại.
Hàm ý chiến lược rộng hơn còn quan trọng hơn:
NVIDIA có thể tiếp tục sở hữu nền tảng điện toán mà không cần sở hữu mọi lớp của hệ thống vật lý.
Khi các nhà cung cấp dịch vụ đám mây siêu quy mô và các đơn vị vận hành hạ tầng lớn có khả năng tự thiết kế giá đỡ, giá trị có thể dần chuyển từ khâu lắp ráp hệ thống tích hợp sang các linh kiện chuyên dụng và năng lực sản xuất giúp hiện thực hóa những hệ thống đó.
Do đó, Kessel không nhất thiết là một nỗ lực nhằm thay thế NVIDIA. Đây là phép thử xem khách hàng có thể giành lại bao nhiêu giá trị ở cấp độ hệ thống của NVIDIA mà không phải hy sinh hiệu năng và độ tin cậy của nền tảng điện toán này.
