Lizi星图 Atlas

缓存命中就是省钱

同样的请求,缓存命中可以便宜一个数量级。

几乎所有主流 API 都支持提示缓存:请求开头相同的部分(系统提示、工具定义、长文档)第二次发送时按缓存价计费,通常只有原价的十分之一左右。DeepSeek 的缓存命中价甚至比原价低两个数量级。

第三方测算里,同一个 Sonnet 5.5 修 bug 的任务,用好缓存能从约 $0.90 降到 $0.33。

自己调 API 时注意三点:

  1. 稳定的内容放前面:系统提示、工具列表、参考文档;会变的内容(当前时间、用户问题)放后面。
  2. 前缀一个字节都不能变。在系统提示里插入时间戳、随机 ID,或者工具列表顺序不固定,缓存就全废了。
  3. 看返回里的缓存命中字段。连续几次都是 0,说明有东西在悄悄破坏缓存。

用 Claude Code、Codex 这类工具时,它们已经替你做了缓存。你能做的是:别频繁切换模型(缓存按模型隔离),别在长对话中途改系统设置。

更多省钱方法见别让账单失控。