SGLang-Diffusion 为 Qwen-Image-2.1 新增 day-0 支持
SGLang 宣布 SGLang-Diffusion 已为 Qwen-Image 2.1 提供 day-0 支持。Qwen 对该项目表示感谢,并称该技术栈现已为该模型提供 文生图生成、多图编辑 和 透明 RGBA 输出。
据 SGLang 称,原生精度可在单张 RTX 4090 24GB 上通过 CPU offload 运行,1024×1024 生成耗时 18.7s,图像编辑耗时 21.7s,请求期间峰值 GPU 显存为 22.7 GiB。在 RTX PRO 6000 96GB 上,SGLang 报告生成耗时 8.0s、编辑耗时 9.6s。
SGLang 表示,一个检查点即可覆盖上述图像任务,原生推理包括 TP/SP、LoRA 以及兼容 OpenAI 的 API。所报告的耗时基于 40 个去噪步、每次请求一张图像、已预热的 HTTP 延迟(含 PNG 输出),且未使用量化。