GPT-6のプロンプトキャッシュはブレークポイントと事前ウォームアップで調整できる

OpenAI Developersによると、アプリケーションはGPT-6のプロンプトキャッシュを3つの方法で調整できる。明示的なキャッシュブレークポイントで、再利用するプロンプトの接頭辞を選ぶ。キャッシュ済みのコンテキストを保ったまま推論の強度とツールの利用可否を変更でき、共有コンテキストを事前にウォームアップすれば応答をより早く開始できる。