#llama-cpp

Pedro Cuenca 透過 llama.cpp 於 RTX 6000 與 M5 手提電腦跨硬件運行 MiMo 2.6 Flash

Pedro Cuenca 展示在 RTX 6000 GPU 與 M5 手提電腦之間經由 10 GbE 網絡跨硬件運行 MiMo 2.6 Flash 原生 mxfp4 權重，利用 llama.cpp 的開箱即用支援，推理速度達每秒 40 個 token。