Sayak Paul:QwenImage 2.1 的 KV 快取實測達 2.55 倍加速
Sayak Paul(@RisingSayak)發了一串帖文,講述 QwenImage 2.1 如何納入 KV 快取。該方法將固定上下文與每個去噪步驟都會改變的圖像位置分開,只快取一次固定部分,使後續步驟成本更低。
他表示他們實測得出 2.55 倍加速。
Sayak Paul(@RisingSayak)發了一串帖文,講述 QwenImage 2.1 如何納入 KV 快取。該方法將固定上下文與每個去噪步驟都會改變的圖像位置分開,只快取一次固定部分,使後續步驟成本更低。
他表示他們實測得出 2.55 倍加速。