DeepLearning.AI, The Batch 통해 DeepSeek의 캐시 절감 및 Flash 벤치마크 결과 상세 분석

DeepLearning.AI는 이번 주 The Batch에 AI 에이전트의 메모리 사용량 최적화에 초점을 맞춘 DeepSeek의 기술 분석을 게재했다. 보고서에 따르면 DeepSeek는 토큰당 캐시를 890바이트로 줄여 DeepSeek-V1보다 437배 작은 수준으로 낮췄다.

분석은 입력 컨텍스트를 4K에서 1M 토큰으로 확장할 때 출력 토큰당 연산량이 25% 증가한다고 명시했다. 벤치마크 평가에서는 AA Index 기준 Flash가 39점을 기록해 36점인 V4-Pro를 앞섰으며, 작업당 비용은 각각 0.27달러와 0.67달러로 보고되었다.