永久保留缓存!OpenAI更新,比DeepSeek还久?

2026-10-21 科技 阅读



  AI 应用风向标(公众号:ZhidxcomAI)
  作者|毕伟豪
  编辑|漠影
  智东西 10 月 21 日报道,刚刚,ChatGPT 和 Codex 负责人 Tibo 宣布 OpenAI 模型的 API 服务将提供 12 小时缓存保留服务选项,Codex 和 Work 登录用户缓存将会永久保留。

  这次更新也是 Tibo 的 28 天计划中一项重磅升级,在好多天的重...

  AI 应用风向标(公众号:ZhidxcomAI)

  作者|毕伟豪

  编辑|漠影

  智东西 10 月 21 日报道,刚刚,ChatGPT 和 Codex 负责人 Tibo 宣布 OpenAI 模型的 API 服务将提供 12 小时缓存保留服务选项,Codex 和 Work 登录用户缓存将会永久保留。

  这次更新也是 Tibo 的 28 天计划中一项重磅升级,在好多天的重置以及小改进之后,Tibo 终于憋了个大招出来。

  在发布更新之前,Tibo 还发文表示看到了一些用户的额度消耗速度异常情况,并对大约 40000 个账户进行信用点返还。

  从文档中来看,API 一侧的缓存保留选项对 GPT-5.6 及以上版本模型生效,OpenAI 提供默认 30 分钟以及 12 小时的缓存保留可选项,Codex 和 Work 的永久缓存尚未发布公告。

  不过,12 小时缓存也不是单纯延长保留时间。根据 OpenAI 的 API 文档,选择 12 小时缓存后,缓存写入价格将从未缓存输入 Token 价格的 1.25 倍升至 2.5 倍,而缓存读取价格不变。

  至于 Codex 和 Work 面向登录用户提供的“永久缓存”,目前还需要进一步确认其具体实现。

  永久保留缓存究竟指缓存状态的保留策略、缓存命中后的计费安排,还是面向用户的某种权益,需要结合官方对这项更新的具体说明判断。

  不过,从机理上推测,Codex 和 Work 的永久缓存大概率不是真的缓存保留,可能是重新计算缓存时不计费,为用户永久保留缓存并不现实。

  OpenAI 官方 API 文档明确指出,12 小时缓存设置规定的是缓存读取计费资格所对应的最短生命周期,并不保证每次请求都能复用已存储的 KV 张量,也不保证降低延迟。

  换言之,缓存有效期、实际缓存命中率和请求延迟是三个不同的概念,12 小时的限制仅为是否按缓存命中计费的标准。

  从 API 一侧推断,相比于永久保留缓存,这次更新的永久保留更像是缓存“补贴”,用于降低用户的额度消耗。

  不过 OpenAI 这次关于缓存的更新时间也非常微妙,就在昨天,DeepSeek 刚开源了推理框架,其中就包括设计目标高达 3 天的缓存保留,相比于 OpenAI 此前默认的 30 分钟高出太多。

相关阅读

柘城网为柘城本地权威综合门户。立足本土,解读钻石、辣椒、肉牛特色产业,传承朱襄故里人文,汇聚旅游、非遗、美食与民生资讯,搭建柘城论坛,服务柘城百姓。
  • 今天吃什么?
  • 关于我们
Copyright © 2026 柘城网 All Rights Reserved. 豫ICP备2025133402号豫公网安备41142402000636号
关灯
扫一扫添加微信客服
返回顶部
返回顶部