moe

ステップ星辰がオープンソースの新世代フラッシュモデルStep 3.7フラッシュを正式にリリース。Apache 2.0ライセンスを採用。モデルは196Bの言語バックボーンと1.8Bの視覚トランスフォーマーからなるスパースMoEアーキテクチャを使用し、総パラメータは198B、アクティベーションはわずか11B。256Kのコンテキストと3段階の推論をサポートし、プロダクションレベルのエージェント、コード、オンライン検索、マルチモーダルワークフローを最適化。

なぜ重要か：中国のAIチームはオープンソースのマルチモーダルMoE大モデル分野で重要なブレイクスルーを達成。低アクティベーションパラメータと高能力密度のアーキテクチャ設計は、効率的な推論の産業方向性を示している。

#AI #开源 #大模型 #MoE #人工知能