Notícias do mundo cripto, a equipe da SGLang formalizou a criação da empresa Radixark, concluindo uma rodada de financiamento seed de 100 milhões de dólares, com uma avaliação pós-investimento de 400 milhões de dólares. A Accel liderou a rodada, enquanto a Spark Capital participou como co-líder. Além disso, a Nvidia (via Nventures) e a AMD, dois concorrentes no setor de chips, também investiram, juntamente com a MediaTek. A SGLang atua como uma camada intermediária entre modelos e hardware, reduzindo o custo de inferência de IA através de uma gestão mais eficiente da memória de vídeo. O projeto foi lançado em 2023 e atualmente processa trilhões de tokens diariamente para empresas como Google, Microsoft, Nvidia, Oracle e xAI. A Radixark também opera outro projeto de código aberto chamado Miles, focado em treinamento de aprendizagem por reforço em larga escala, que já foi utilizado no treinamento de MOE (Mixture of Experts, uma arquitetura de modelo que ativa apenas parte dos parâmetros para reduzir a carga computacional). O financiamento será utilizado para expandir os dois projetos de código aberto, suportando mais arquiteturas de modelos e plataformas de hardware, além de lançar serviços de infraestrutura gerenciada voltados para empresas.
