Georgi Gerganov 表示 transformers 可以直接運行 GGUF 模型
Georgi Gerganov 表示，GGUF 模型可以直接用 transformers 運行。他說，這項工作把 ggml 的 Metal 核心帶入 transformers 生態，從而提升相容性與效能。
Georgi Gerganov 表示，GGUF 模型可以直接用 transformers 運行。他說，這項工作把 ggml 的 Metal 核心帶入 transformers 生態，從而提升相容性與效能。