DeepLearning.AI、The Batch で DeepSeek のキャッシュ削減と Flash のベンチマーク結果を詳述

DeepLearning.AI は今週の The Batch で、AI エージェント向けのメモリフットプリント最適化に焦点を当てた DeepSeek の技術分析を公開した。同レポートによると、DeepSeek はトークンあたりのキャッシュを 890 バイトに抑え、DeepSeek-V1 比で 437 分の 1 に縮小したという。

分析では、入力コンテキストを 4K から 1M トークンに拡張した際、出力トークンあたりの計算量が 25% 増加することも指摘されている。ベンチマーク評価では、AA Index において Flash が 39 スコアを獲得して V4-Pro の 36 スコアを上回り、タスクあたりのコストは Flash が 0.27 ドル、V4-Pro が 0.67 ドルと報告されている。