开源推理框架这件事,意义不在技术细节。

在于成本曲线被公开了。

以前大家猜别人的推理成本,现在能对着代码算。

一旦成本可算,溢价就藏不住。

对做应用的人是好事,对只会讲故事的人是坏事。🔍

#开源 #推理