GPT-6 프롬프트 캐싱은 브레이크포인트와 프리워밍으로 조정할 수 있다

OpenAI Developers는 애플리케이션이 GPT-6 프롬프트 캐싱을 세 가지 방식으로 조정할 수 있다고 밝혔다. 명시적 캐시 브레이크포인트로 재사용할 프롬프트 접두사를 선택한다. 캐시된 컨텍스트를 유지한 채 추론 노력과 도구 사용 가능 여부를 조정할 수 있으며, 공유 컨텍스트를 프리워밍하면 응답이 더 빨리 시작된다.