Microsoft 使用 16,000 張 GB200 GPU，耗時 38 天訓練出 MAI-Base-2：一個擁有 2.8 兆個參數的混合專家模型（MoE）。目前尚未釋出開放權重。

AI 前沿發展真正的門檻並非模型架構，而是訓練基礎設施。沒有大型 GPU 叢集，就無法複製這項成果。

在消費級硬體上進行分散式訓練，或許能打破這道門檻。想像一下，協調數千張消費級 GPU，以這種規模訓練模型——這正是我們需要打破的基礎設施護城河。