SGLang-Diffusion 為 Qwen-Image-2.1 加入 day-0 支援
SGLang 宣布 SGLang-Diffusion 為 Qwen-Image 2.1 提供 day-0 支援。Qwen 感謝該項目,並表示該技術棧現已為該模型提供 文字轉圖像生成、多圖編輯 及 透明 RGBA 輸出。
據 SGLang 表示,原生精度可在單張 RTX 4090 24GB 上配合 CPU 卸載運行,1024×1024 生成需時 18.7s,圖像編輯需時 21.7s,請求期間峰值 GPU 記憶體為 22.7 GiB。在 RTX PRO 6000 96GB 上,SGLang 報告生成需時 8.0s,編輯需時 9.6s。
SGLang 表示一個檢查點即可涵蓋這些圖像任務,原生推理包括 TP/SP、LoRA 及 OpenAI 相容 API。所報告的時間採用 40 個去噪步數、每請求一張圖像、包含 PNG 輸出的已預熱 HTTP 延遲,且沒有量化。