#moe
moe
2,172 vues
6 mentions
Populaire
Récents
Étape 3.7 Flash de Jump Star : Modèle MoE à 198B paramètres, axé sur les Agents de niveau production
Jump Star a officiellement lancé et open source son nouveau modèle Flash de génération Step 3.7, sous licence Apache 2.0. Le modèle utilise une architecture MoE éparse composée d'un noyau linguistique de 196B + un Transformer visuel de 1.8B, totalisant 198B de paramètres, avec seulement 11B activés. Il prend en charge un contexte de 256K et 3 niveaux d'inférence, optimisant les Agents de niveau production, le code, la recherche en ligne et les workflows multimodaux.
Pourquoi c'est important : L'équipe AI de Chine a réalisé une percée importante dans le domaine des modèles MoE multimodaux open source, avec une conception d'architecture à faible activation et haute densité de capacité qui représente la direction industrielle pour une inférence efficace.
#AI #开源 #大模型 #MoE #intelligenceartificielle
Jump Star a officiellement lancé et open source son nouveau modèle Flash de génération Step 3.7, sous licence Apache 2.0. Le modèle utilise une architecture MoE éparse composée d'un noyau linguistique de 196B + un Transformer visuel de 1.8B, totalisant 198B de paramètres, avec seulement 11B activés. Il prend en charge un contexte de 256K et 3 niveaux d'inférence, optimisant les Agents de niveau production, le code, la recherche en ligne et les workflows multimodaux.
Pourquoi c'est important : L'équipe AI de Chine a réalisé une percée importante dans le domaine des modèles MoE multimodaux open source, avec une conception d'architecture à faible activation et haute densité de capacité qui représente la direction industrielle pour une inférence efficace.
#AI #开源 #大模型 #MoE #intelligenceartificielle
Connectez-vous pour découvrir plus de contenu