OpenAI Developers 推出 Prompt Caching Dashboard 與診斷 API
OpenAI Developers 在 platform.openai.com 推出全新 Prompt Caching Dashboard,用以追蹤快取命中率。
診斷 API 可識別阻礙重用的變更,並估算受影響的 token 數量。
OpenAI Developers 在 platform.openai.com 推出全新 Prompt Caching Dashboard,用以追蹤快取命中率。
診斷 API 可識別阻礙重用的變更,並估算受影響的 token 數量。