Ramine Roane 称 AMD 在 90 天内向 vLLM 核心提交 502 次
Ramine Roane 称，AMD 目前是向 vLLM 贡献代码居首的公司，90 天内核心提交 502 次，占所有组织贡献的 13%，接近 Nvidia 的四倍。他还肯定了 Red Hat、IBM、Embedded LLM 和 Inferact 的功劳。
#vllm
查看全部AI快讯Google Gemma 表示，vLLM 可以让 DiffusionGemma 表现得像 Jev
Google Gemma 表示，在 vLLM 中用回答模板为画布设定初始内容后，DiffusionGemma 可以在单次去噪步骤中，为是非题、选择题和评分题返回置信度分数与概率分布。
PyTorch Foundation 博客介绍面向 vLLM 的硬件无关层
来自 IBM、Meta 和 Hugging Face 的贡献者提出硬件无关层，旨在为在不同硬件上运行多种模型的用户兼顾前沿性能与可移植性。
vLLM 集成 PyNvVideoCodec，将视频解码卸载至 GPU NVDEC
vLLM 表示已集成 PyNvVideoCodec，将视频解码从 CPU 卸载至 GPU NVDEC，并报告在 8×H100 上实现 2x+ 吞吐量。该项目称此变更随 CUDA vLLM 发行版发布。
Qwen-Image-2.1 在 vLLM-Omni 中获得 Day-0 支持
vLLM 表示，来自 @Alibaba_Qwen 的 Qwen-Image-2.1 已在 vLLM-Omni 中获得 Day-0 支持，称其为一个 7.1B 的 DiT，与 Qwen3-VL-8B 配对，可用于生成、编辑和透明图像。Qwen 感谢 vLLM，并表示这一模型已可提供服务。