PyTorch FoundationのブログがvLLM向けのハードウェア非依存レイヤーを紹介IBM、Meta、Hugging Faceのコントリビューターが、多様なハードウェア上で多様なモデルを実行するユーザー向けに、最先端の性能と移植性の両立を目指すハードウェア非依存レイヤーを紹介する。
