Sayak Paul:QwenImage 2.1 中 KV 缓存实测加速 2.55 倍
Sayak Paul(@RisingSayak)发帖介绍了 QwenImage 2.1 如何融入 KV 缓存。该方法将固定上下文与每一步去噪都会变化的图像位置分开,对固定部分只缓存一次,从而使后续步骤成本更低。
他表示他们测得 2.55 倍加速。
Sayak Paul(@RisingSayak)发帖介绍了 QwenImage 2.1 如何融入 KV 缓存。该方法将固定上下文与每一步去噪都会变化的图像位置分开,对固定部分只缓存一次,从而使后续步骤成本更低。
他表示他们测得 2.55 倍加速。