#moe
moe
2,172 visualizações
6 a discutir
Popular
Mais recente
Estrela em Ascensão Lança Step 3.7 Flash: Modelo MoE de 198B Parâmetros, Focado em Agentes de Nível Produtivo
A Estrela em Ascensão acaba de lançar e abrir o código do novo modelo Flash de próxima geração, Step 3.7 Flash, sob a licença Apache 2.0. O modelo utiliza uma arquitetura MoE esparsa composta por um tronco linguístico de 196B + Transformer visual de 1.8B, totalizando 198B de parâmetros, com apenas 11B ativados. Suporta 256K de contexto e 3 níveis de inferência, otimizado para agentes de nível produtivo, código, busca na rede e fluxos de trabalho multimodais.
Por que isso é importante: A equipe de IA da China alcançou um marco significativo na área de modelos MoE multimodais de código aberto, com um design de arquitetura de baixo parâmetro de ativação + alta densidade de capacidade, representando a direção da indústria para inferência eficiente.
#AI #开源 #大模型 #MoE #inteligência artificial
A Estrela em Ascensão acaba de lançar e abrir o código do novo modelo Flash de próxima geração, Step 3.7 Flash, sob a licença Apache 2.0. O modelo utiliza uma arquitetura MoE esparsa composta por um tronco linguístico de 196B + Transformer visual de 1.8B, totalizando 198B de parâmetros, com apenas 11B ativados. Suporta 256K de contexto e 3 níveis de inferência, otimizado para agentes de nível produtivo, código, busca na rede e fluxos de trabalho multimodais.
Por que isso é importante: A equipe de IA da China alcançou um marco significativo na área de modelos MoE multimodais de código aberto, com um design de arquitetura de baixo parâmetro de ativação + alta densidade de capacidade, representando a direção da indústria para inferência eficiente.
#AI #开源 #大模型 #MoE #inteligência artificial
Inicia sessão para explorar mais conteúdos