Claude API 隔一会儿再问就变贵,问题出在提示缓存

分享

用 Claude API 跑 AI Agent,停几分钟再接着问,下一句常比上一句贵很多。官方文档写明提示缓存默认只留 5 分钟,过期后整段历史要重新写入缓存,读缓存是基础输入价的 0.1 倍,写入 5 分钟缓存 1.25 倍、1 小时缓存 2 倍。讲清怎么算钱、什么时候改成 1 小时缓存,附一段让 AI Agent 帮你查代码的提示词。

来源Anthropic报道于 2026年11月19日尚未实测

用 Claude API 跑 AI Agent,停下来想几分钟再接着问,下一句常常比上一句贵很多。原因在提示缓存:官方文档写明,默认缓存只保留 5 分钟,每用一次重新计时;超过 5 分钟没请求,整段历史就要按正常价重新处理一遍。

它是怎么算钱的

长对话每一轮都会把前面的历史一起发给模型。开了提示缓存,重复的那一大段只算很便宜的"读缓存"价;缓存过期了,这段历史就得重新写进缓存。按 Anthropic 官方文档:

情况 按基础输入价的多少倍算
读缓存(命中) 0.1 倍
写入 5 分钟缓存(默认) 1.25 倍
写入 1 小时缓存(要自己开) 2 倍

所以同样一段 20 万 token 的历史,命中缓存和缓存过期后重写,单这一轮的输入费能差十几倍。你去倒杯水、看一眼别的窗口,回来再问,就踩上了这个坑。

对你有什么用

  • 自己写程序调 API 的:请求间隔经常超过 5 分钟(等人审批、等别的任务跑完),可以在 cache_control 里把 ttl 设成 1h。写入贵一些,但只要一小时内会再用几次,总账更省。
  • 用 AI Agent 跑长任务的:中途要停很久,不如先让它把进度压缩成一小段笔记,回来新开会话接着做,比硬接一段过期的长历史便宜。
  • 订阅版的 Claude 应用和 Claude Code:有使用者说订阅里的缓存能留更久,所以显得"耐用",这一点暂时没核实,官方文档只写了 API 的规则。

让 AI Agent 帮你查一遍

帮我检查我调用 Claude API 的代码有没有因为缓存过期多花钱:
1. 找出所有请求的位置,看有没有设置 cache_control,ttl 是默认的 5 分钟还是 1h
2. 估一下两次请求之间的典型间隔,超过 5 分钟的场景列出来
3. 对每个场景给建议:保持 5 分钟、改成 1 小时,还是先压缩历史再新开会话,并说明理由
4. 只给建议和改法,不要直接改代码,等我确认

注意

参考

这条是从群友讨论里整理的,原始讨论见 Agent交流多群群聊报告合集|截止至11月20日。

读完了?标记一下,记录学习进度。登录
收藏起来,稍后再看登录
对这篇有疑问?向 Ask AI 提问

评论(0)

还没有评论,来说第一句。

登录后参与讨论。登录

继续学习

查看全部
Meta Muse 开始有自己的专属邮箱了
入门·3 分钟·2026年11月20日
把 AI 热点站改成你自己行业的日报站
入门·3 分钟·2026年11月20日
ChatGPT 语音输入能边说边出字了
入门·2 分钟·2026年11月20日
便宜的入门安卓机也能用上 Gemini 了
入门·2 分钟·2026年11月20日