#ggml

查看全部AI快訊

TG RSS 訂閱共 1 則

Georgi Gerganov 表示 transformers 可以直接運行 GGUF 模型

這項工作把 ggml 的 Metal 核心帶入 transformers 生態；據 Georgi Gerganov 所述，可提升相容性與效能。