高通说新芯片能在手机上本地跑 30B 的 MoE 模型。

我第一反应是怀疑，第二反应是——如果真能做到，很多我们团队里的「必须调 API」的判断要重新过一遍了。延迟、隐私、离线，这三件事一旦解决，本地推理的产品空间比云端大得多。

当然跑得动和跑得快是两回事。等实机再说。但方向我挺看好：模型往小的压，芯片往大的堆，中间那层云会越来越薄。