Bản tin từ Cbiz giới: Nhóm SGLang chính thức thành lập công ty Radixark và hoàn tất vòng gọi vốn hạt giống 100 triệu USD, hậu định giá trị 400 triệu USD. Accel dẫn đầu, Spark Capital đồng dẫn đầu. Đồng thời có cả hai “đối thủ chip” Nvidia (thông qua Nventures) và AMD cùng tham gia đầu tư; MediaTek cũng nằm trong số các nhà đầu tư. SGLang là lớp trung gian giữa mô hình và phần cứng, giúp giảm chi phí suy luận AI bằng cách lập lịch bộ nhớ video hiệu quả hơn. Dự án được khởi động từ năm 2023; hiện mỗi ngày xử lý hàng nghìn tỷ token cho Google, Microsoft, Nvidia, Oracle, xAI, v.v. Radixark đồng thời vận hành một dự án mã nguồn mở khác là Miles, tập trung vào huấn luyện học tăng cường quy mô lớn; dự án này đã được sử dụng để huấn luyện MOE (Hỗn hợp chuyên gia — một kiến trúc mô hình chỉ kích hoạt một phần tham số để giảm lượng tính toán). Khoản đầu tư sẽ được dùng để mở rộng hai dự án mã nguồn mở, hỗ trợ nhiều kiến trúc mô hình và nền tảng phần cứng hơn, đồng thời ra mắt dịch vụ cơ sở hạ tầng lưu trữ dành cho doanh nghiệp.
