Ramine Roane 稱 AMD 在 90 天內向 vLLM 核心提交 502 次
Ramine Roane 稱，AMD 目前是向 vLLM 專案貢獻程式碼最多的公司。他表示，AMD 在 90 天內向 vLLM 核心提交 502 次，佔所有組織貢獻的 13%，幾乎是 Nvidia 的四倍。
他亦感謝 Red Hat、IBM、Embedded LLM 和 Inferact 與 AMD 共同構建 vLLM。
相關AI快訊
AMD稱Instinct MI355X在Signal_65 RAG測試中降低了p99延遲
AMD稱，在經TensorWave託管的Signal_65 RAG測試中，Instinct MI355X的p99延遲約低42%，並在突破所評估SLA前提供大約兩倍的並行用戶餘量。對照系統未具名。
AMD 同意收購 World Labs
AMD 表示已達成收購 World Labs 的最終協議，並將該公司的研究人員和模型專家納入 AMD，從事未來 AI 基礎設施與開放 AI 生態相關工作。
AMD Helios 將超過 18,000 個 CDNA 5 GPU 單元裝入單一機架
AMD 稱，Helios 在單一機架內提供超過 18,000 個 CDNA 5 GPU 運算單元、4,600 個 Zen 6 CPU 核心和 31 TB HBM4 記憶體，用於大規模運行智能體 AI；相關內容出自對 Advancing AI with Lisa Su 的回顧。
clem 稱 NVIDIA 正在收購 Hugging Face
clem 稱，NVIDIA 的收購讓 Hugging Face 能夠聘用它作為小型初創公司時無法招到的人，並給他們十年時間讓開源 AI 勝出。他邀請這些人直接向他發私訊。
PyTorch Foundation 網誌介紹 vLLM 的硬件無關層
IBM、Meta 與 Hugging Face 的貢獻者提出硬件無關層，旨在為於不同硬件上運行不同模型的用戶，在前沿效能與可移植性之間取得平衡。