OpenAI DevelopersがPrompt Caching Dashboardと診断APIを導入
OpenAI Developersは、キャッシュヒット率を追跡する新しいPrompt Caching Dashboardをplatform.openai.comに導入した。
診断APIは再利用を妨げた変更を特定し、影響を受けたトークン数を推定する。
OpenAI Developersは、キャッシュヒット率を追跡する新しいPrompt Caching Dashboardをplatform.openai.comに導入した。
診断APIは再利用を妨げた変更を特定し、影響を受けたトークン数を推定する。