本地能跑的模型又更新一版,量化后单卡能带,速度已经能接受。

意义不在"替代云端",在于不需要联网、不需要审批、不需要解释你在跑什么。
隐私不是功能,是部署位置决定的。