OpenAI Developers、APIのGPT-6向けプロンプトキャッシュを改善
OpenAI Developersは、APIにおけるGPT-6向けのプロンプトキャッシュを改善した。キャッシュヒット率はデフォルトで高くなり、より多くの入力トークンが最大90%のキャッシュ入力割引を受けられる。
OpenAI Developersは、この変更によってエージェントの実行が速くなり、コストも下がると述べている。
OpenAI Developersは、APIにおけるGPT-6向けのプロンプトキャッシュを改善した。キャッシュヒット率はデフォルトで高くなり、より多くの入力トークンが最大90%のキャッシュ入力割引を受けられる。
OpenAI Developersは、この変更によってエージェントの実行が速くなり、コストも下がると述べている。