理应资讯
软件研发智能化

OpenAI API 新增 12 小时提示缓存档位,长间隔请求也能按缓存价计费

理应编辑室 ·

OpenAI 开发者账号宣布 API 可选 12 小时提示缓存。GPT-5.6 及以后模型在 Responses API 中通过 prompt_cache_options.ttl 设为 "12h",写入费率为未缓存输入的 2.5 倍,读取费率与默认 30 分钟档相同。

OpenAI 开发者官方账号 10 月 21 日凌晨(北京时间)宣布,API 现在可以选择 12 小时的提示缓存(prompt caching)。官方的说法是,像 dots 这类全天持续运行的 Agent 会反复复用同一份上下文;把共享的指令、工具定义和上下文缓存更久,即便请求之间相隔数小时,这部分输入仍可按较低的缓存输入价计费。

按照 OpenAI 提示缓存文档,GPT-5.6 及以后的模型在 Responses API 中用 prompt_cache_options.ttl 选择最短缓存生命周期:默认 "30m" 保留至少 30 分钟,缓存写入按未缓存输入费率的 1.25 倍计;"12h" 保留至少 12 小时,写入按 2.5 倍计。两档的缓存读取费率相同。文档同时说明,"12h" 只是最短保留时长,不是删除期限,也不改变数据保留策略的上限;传入不支持的值会返回 400 invalid_request_error。更早的模型仍使用原有的 prompt_cache_retention 参数。

OpenAI 提示缓存两档生命周期对比 30 分钟档写入费率为未缓存输入的 1.25 倍,12 小时档为 2.5 倍,读取费率两档相同 prompt_cache_options.ttl 两档对比(GPT-5.6 及以后,Responses API) 缓存写入费率(相对未缓存输入) "30m"(默认) 1.25× "12h" 2.5× 最短缓存生命周期 "30m":30 分钟 "12h":12 小时 两档缓存读取费率相同;12h 为最短保留时长,不是删除期限

文档给出的用法是分层设置:请求级默认值设为 "30m",再在一整天都会复用的共享前缀(固定指令、参考资料)上,用 prompt_cache_breakpoint 单独设置 "ttl": "12h";变化更频繁的会话上下文仍走 30 分钟档。由于 12 小时档写入成本是默认档的两倍,文档建议把它和 30 分钟缓存过期后重新写入前缀的成本放在一起比较,再决定哪些内容值得长时间缓存。

# OpenAI# 提示缓存# API# AI Agent# 成本优化