GPT-6 提示缓存可通过断点与预热调节
OpenAI Developers 表示,应用可通过显式缓存断点选择可复用的提示前缀,在保留已缓存上下文的同时调整推理力度和工具可用性,并可预热共享上下文,使响应更早开始。
OpenAI Developers 表示,应用可通过显式缓存断点选择可复用的提示前缀,在保留已缓存上下文的同时调整推理力度和工具可用性,并可预热共享上下文,使响应更早开始。
默认缓存命中率提高后,更多 GPT-6 输入 token 可获得最高 90% 的缓存输入折扣。OpenAI Developers 表示,这一改动有助于智能体运行更快、成本更低。
platform.openai.com 上的全新 Prompt Caching Dashboard 会跟踪缓存命中率。诊断 API 可识别阻碍缓存复用的改动,并估算受影响的 token 数量。
OpenRouter 表示,GPT-6 Sol 和 GPT-6 Luna 采用 Astra 更清晰、更简短、术语更少的回答方式,并包含 OpenAI 改进后的提示缓存,缓存输入读取减免 90%。
Kimi.ai 表示,Kimi K3 已在 Amazon Bedrock 上可用,可用于编程、文档分析以及扩展智能体工作流,并具备 Bedrock 的访问、加密与审计控制,同时支持显式提示缓存。