用 Claude API 跑 AI Agent,停下来想几分钟再接着问,下一句常常比上一句贵很多。原因在提示缓存:官方文档写明,默认缓存只保留 5 分钟,每用一次重新计时;超过 5 分钟没请求,整段历史就要按正常价重新处理一遍。
它是怎么算钱的
长对话每一轮都会把前面的历史一起发给模型。开了提示缓存,重复的那一大段只算很便宜的"读缓存"价;缓存过期了,这段历史就得重新写进缓存。按 Anthropic 官方文档:
| 情况 | 按基础输入价的多少倍算 |
|---|---|
| 读缓存(命中) | 0.1 倍 |
| 写入 5 分钟缓存(默认) | 1.25 倍 |
| 写入 1 小时缓存(要自己开) | 2 倍 |
所以同样一段 20 万 token 的历史,命中缓存和缓存过期后重写,单这一轮的输入费能差十几倍。你去倒杯水、看一眼别的窗口,回来再问,就踩上了这个坑。
对你有什么用
- 自己写程序调 API 的:请求间隔经常超过 5 分钟(等人审批、等别的任务跑完),可以在
cache_control里把ttl设成1h。写入贵一些,但只要一小时内会再用几次,总账更省。 - 用 AI Agent 跑长任务的:中途要停很久,不如先让它把进度压缩成一小段笔记,回来新开会话接着做,比硬接一段过期的长历史便宜。
- 订阅版的 Claude 应用和 Claude Code:有使用者说订阅里的缓存能留更久,所以显得"耐用",这一点暂时没核实,官方文档只写了 API 的规则。
让 AI Agent 帮你查一遍
帮我检查我调用 Claude API 的代码有没有因为缓存过期多花钱:
1. 找出所有请求的位置,看有没有设置 cache_control,ttl 是默认的 5 分钟还是 1h
2. 估一下两次请求之间的典型间隔,超过 5 分钟的场景列出来
3. 对每个场景给建议:保持 5 分钟、改成 1 小时,还是先压缩历史再新开会话,并说明理由
4. 只给建议和改法,不要直接改代码,等我确认
注意
- 缓存是按模型分开的,长对话中途换模型同样要重新处理整段历史,见 Claude Code 聊到一半换模型,下一句为什么特别贵。
- 倍数和价格以官方文档为准,各模型的基础价不一样。
- 缓存只管重复的开头部分,每轮新加的内容照常计费。
参考
这条是从群友讨论里整理的,原始讨论见 Agent交流多群群聊报告合集|截止至11月20日。


评论(0)
还没有评论,来说第一句。