OpenAI 新增 12 小时提示缓存：什么场景值得开启？

OpenAI 在 2026 年 10 月 20 日的 API 更新日志中宣布，开发者可以选择 12 小时提示缓存。更新列在 Responses API 下，主要用途是让共享指令、工具定义和上下文保留更久，使相隔数小时的请求也有机会使用更低的缓存输入价格。

对于一天内多次处理相似任务的应用，这项变化值得关注。客服助手可能反复使用同一套业务规则，研究助手可能隔几个小时再次分析同一份资料，开发工具也可能在不同任务中复用一段稳定的项目说明。

缓存保留更久，需要先算写入成本

官方明确表示，12 小时缓存写入按普通输入 Token 单价的 2.5 倍收费。因此，“保留时间更长”不能直接推导出“每次调用更便宜”。如果写入后没有发生有效复用，额外写入成本就无法通过后续缓存读取节省来抵消。

评估时，应把同一段上下文在一段时间内的所有调用放在一起计算，记录缓存写入量、缓存读取量、未命中的输入量，以及不同请求之间的间隔。具体核算口径可参考提示缓存命中率与总费用的区别。只比较某一次命中请求的账单，容易高估整体节省。

哪些工作流值得优先评估

更适合先尝试的是内容稳定、一天内重复使用、调用间隔较长的共享上下文。例如，上午加载项目说明，下午继续处理同一项目；或者多个业务请求使用相同的工具定义和规则。

每次都换一批资料、很少重复的任务，复用机会通常更少。把动态内容频繁混进公共部分，也会增加评估缓存行为的难度。团队可以先选一个实际工作流，用同样的任务量对比开启前后的总费用与响应时间，再决定是否扩大使用。

此次公告确认了新时长和写入价格。具体模型、参数及其他处理档位的适配，应以接入时的官方文档为准；通过第三方服务使用时，也需要核对对应能力是否开放。