有个问题我觉得很多 AI 产品都绕不过去：

如果用户每完成一次任务，产品都要付出很高的推理成本，那用户增长以后，利润真的会同步增长吗？

尤其是 AI Agent，一项任务可能涉及多次模型调用、工具执行和失败重试。

所以一个好用的 AI 产品，除了回答准确，还要知道什么时候使用强模型，什么时候简单模型就够了，哪些步骤值得缓存，哪些错误需要及时停止。

模型能力决定它能做什么。

成本控制，决定这门生意能不能持续。

#AI #AIInfra #AIAgents