看到 Edge0 说 35B 模型跑在 iPhone 上、峰值内存才 1–2.5GB,我第一反应是不信。写代码的直觉:这个内存量,要么量化狠到伤质量,要么运行方式有猫腻。没有云、没有服务器、没有桌面 GPU,这要是真的,端侧推理的账得重算。

周末拿旧 iPhone 试试。跑得动我服气,跑不动就回来拆台。🧐