OpenAI Developers 改进 API 中 GPT-6 的提示缓存
OpenAI Developers 已改进 API 中 GPT-6 的提示缓存。默认缓存命中率更高,因此更多输入 token 可获得最高 90% 的缓存输入折扣。
OpenAI Developers 表示,这一改动有助于智能体运行更快、成本更低。
OpenAI Developers 已改进 API 中 GPT-6 的提示缓存。默认缓存命中率更高,因此更多输入 token 可获得最高 90% 的缓存输入折扣。
OpenAI Developers 表示,这一改动有助于智能体运行更快、成本更低。