DeepLearning.AI 在 The Batch 中详解 DeepSeek 缓存缩减与 Flash 基准测试表现
DeepLearning.AI 在本周的 The Batch 中发布了关于 DeepSeek 的技术解析,重点探讨 AI Agent 的内存占用优化。报告称,DeepSeek 将每个 token 的缓存减至 890 字节,较 DeepSeek-V1 缩小了 437 倍。
分析还指出,当输入上下文从 4K 扩展至 1M token 时,每个输出 token 的计算量增加了 25%。在基准测试评估中,Flash 在 AA Index 上的得分为 39 分,高于 V4-Pro 的 36 分;据报告,两者的单任务成本分别为 0.27 美元和 0.67 美元。