Des nouvelles de la crypto, l'équipe SGLang a officiellement fondé la société Radixark, ayant bouclé un tour de table de 100 millions de dollars en seed funding, avec une valorisation post-investissement de 400 millions de dollars. Accel a mené le tour, avec Spark Capital en co-lead, et les géants des puces Nvidia (via Nventures) et AMD ont également participé, tout comme MediaTek. SGLang sert de couche intermédiaire entre les modèles et le matériel, réduisant les coûts d'inférence AI en optimisant la gestion de la mémoire graphique. Ce projet a été lancé en 2023 et traite actuellement des milliers de billions de tokens par jour pour des clients comme Google, Microsoft, Nvidia, Oracle, et xAI. Radixark gère également un autre projet open source, Miles, axé sur la formation à grande échelle en apprentissage renforcé, utilisé pour l'entraînement de MOE (Mixture of Experts, une architecture de modèle qui active seulement une partie des paramètres pour réduire la charge de calcul). Le financement servira à étendre les deux projets open source, à soutenir plus d'architectures de modèles et de plateformes matérielles, et à lancer des services d'infrastructure managés pour les entreprises.
