【Tại sao giá trị thị trường của Marl tăng nửa ETH chỉ trong hai ngày? Một bài viết để hiểu rõ những gì lão Hoàng nói: Trung tâm dữ liệu AI đang đối mặt với nút thắt tiếp theo được định nghĩa là kết nối / liên kết, tức là sự liên kết, quang liên kết, chuyển đổi, tùy chỉnh XPU】
1. kết nối / liên kết = 互联（cốt lõi của nút thắt）
Việc huấn luyện mô hình AI lớn không phải chỉ là một card đồ họa làm việc, mà là hàng trăm đến hàng ngàn GPU kết nối lại với nhau mới tạo thành một cụm.
Sức mạnh tính toán dựa vào GPU/XPU, dữ liệu cần phải được truyền tải qua các đường dây liên kết
Trước đây, nút thắt là: GPU không đủ, hiệu suất chip kém
Bây giờ, nút thắt trở thành: tốc độ truyền dữ liệu giữa các GPU quá chậm, nghẽn băng thông → tức là nút thắt kết nối
2. Quang liên kết (mô-đun quang)
Truyền tín hiệu điện bằng dây điện truyền thống có giới hạn tốc độ thấp và tỏa nhiệt lớn;
Quang liên kết = sử dụng ánh sáng để truyền dữ liệu trong sợi quang, là giải pháp duy nhất cho kết nối tốc độ cao trong siêu máy tính / phòng máy AI hiện nay:
Máy chủ → chuyển đổi giữa kết nối bằng mô-đun quang, toàn bộ mạng lưới AI quy mô lớn phụ thuộc vào nó.
Càng nhiều sức mạnh tính toán, nhu cầu về mô-đun quang càng tăng vọt, tiêu chuẩn cập nhật nhanh chóng, trở thành nút thắt cần thiết.
3. Chuyển đổi (bộ chuyển đổi)
So sánh với bộ định tuyến ở nhà, nhưng trung tâm dữ liệu là bộ chuyển đổi khổng lồ với tốc độ hàng triệu/ hàng trăm triệu:
Tất cả dữ liệu của GPU được tóm tắt và chuyển tiếp qua bộ chuyển đổi, dữ liệu khổng lồ của AI yêu cầu băng thông và độ trễ đối với bộ chuyển đổi tăng vọt.
Nếu bộ chuyển đổi không theo kịp, dù có nhiều GPU đến đâu cũng chỉ chạy không tải, không tận dụng hết sức mạnh tính toán.
4. Tùy chỉnh XPU
GPU: card đồ họa đa năng của Nvidia
XPU: các loại chip tính toán tùy chỉnh (DPU/TPU/ASIC v.v.)
Để giải quyết tình trạng tắc nghẽn kết nối, giờ đây các nhà sản xuất không chỉ đơn giản là tích tụ GPU đa năng:
Làm DPU (bộ xử lý dữ liệu): chuyên trách nhiệm vụ liên kết mạng, giải phóng GPU khỏi việc nhận và gửi dữ liệu để tập trung vào tính toán AI;
Tự phát triển chip TPU/ASIC tùy chỉnh, bên trong chip tích hợp giao diện liên kết tốc độ cao;
Sử dụng chip tùy chỉnh để tối ưu hóa hiệu quả liên kết từ tầng phần cứng.
1. kết nối / liên kết = 互联（cốt lõi của nút thắt）
Việc huấn luyện mô hình AI lớn không phải chỉ là một card đồ họa làm việc, mà là hàng trăm đến hàng ngàn GPU kết nối lại với nhau mới tạo thành một cụm.
Sức mạnh tính toán dựa vào GPU/XPU, dữ liệu cần phải được truyền tải qua các đường dây liên kết
Trước đây, nút thắt là: GPU không đủ, hiệu suất chip kém
Bây giờ, nút thắt trở thành: tốc độ truyền dữ liệu giữa các GPU quá chậm, nghẽn băng thông → tức là nút thắt kết nối
2. Quang liên kết (mô-đun quang)
Truyền tín hiệu điện bằng dây điện truyền thống có giới hạn tốc độ thấp và tỏa nhiệt lớn;
Quang liên kết = sử dụng ánh sáng để truyền dữ liệu trong sợi quang, là giải pháp duy nhất cho kết nối tốc độ cao trong siêu máy tính / phòng máy AI hiện nay:
Máy chủ → chuyển đổi giữa kết nối bằng mô-đun quang, toàn bộ mạng lưới AI quy mô lớn phụ thuộc vào nó.
Càng nhiều sức mạnh tính toán, nhu cầu về mô-đun quang càng tăng vọt, tiêu chuẩn cập nhật nhanh chóng, trở thành nút thắt cần thiết.
3. Chuyển đổi (bộ chuyển đổi)
So sánh với bộ định tuyến ở nhà, nhưng trung tâm dữ liệu là bộ chuyển đổi khổng lồ với tốc độ hàng triệu/ hàng trăm triệu:
Tất cả dữ liệu của GPU được tóm tắt và chuyển tiếp qua bộ chuyển đổi, dữ liệu khổng lồ của AI yêu cầu băng thông và độ trễ đối với bộ chuyển đổi tăng vọt.
Nếu bộ chuyển đổi không theo kịp, dù có nhiều GPU đến đâu cũng chỉ chạy không tải, không tận dụng hết sức mạnh tính toán.
4. Tùy chỉnh XPU
GPU: card đồ họa đa năng của Nvidia
XPU: các loại chip tính toán tùy chỉnh (DPU/TPU/ASIC v.v.)
Để giải quyết tình trạng tắc nghẽn kết nối, giờ đây các nhà sản xuất không chỉ đơn giản là tích tụ GPU đa năng:
Làm DPU (bộ xử lý dữ liệu): chuyên trách nhiệm vụ liên kết mạng, giải phóng GPU khỏi việc nhận và gửi dữ liệu để tập trung vào tính toán AI;
Tự phát triển chip TPU/ASIC tùy chỉnh, bên trong chip tích hợp giao diện liên kết tốc độ cao;
Sử dụng chip tùy chỉnh để tối ưu hóa hiệu quả liên kết từ tầng phần cứng.