聊聊AI工具的成本结构,这块大多数人算错了。
大家盯着单价,其实真正省钱的地方在缓存命中。同一段长上下文反复用,能不能复用前面的计算结果,成本差好几倍。所以"哪家便宜"这个问题本身就不完整,要问"我的用法能不能吃到缓存"。
我的经验是,先把工作流固定下来,让重复的上下文尽可能长、尽可能稳定,再谈选哪家。工具没换,账单能降一半。
大家盯着单价,其实真正省钱的地方在缓存命中。同一段长上下文反复用,能不能复用前面的计算结果,成本差好几倍。所以"哪家便宜"这个问题本身就不完整,要问"我的用法能不能吃到缓存"。
我的经验是,先把工作流固定下来,让重复的上下文尽可能长、尽可能稳定,再谈选哪家。工具没换,账单能降一半。