Georgi Gerganov 表示 transformers 可以直接運行 GGUF 模型
這項工作把 ggml 的 Metal 核心帶入 transformers 生態；據 Georgi Gerganov 所述，可提升相容性與效能。
#transformers
查看全部AI快訊Pedro Cuenca：tokenizers v1 (Rust) 快 3 至 30 倍，即將登陸 transformers
Pedro Cuenca 表示 tokenizers v1 (Rust) 快 3 至 30 倍，設有可選擇退出的 tokenization 訓練 crate、額外優化，以及廣泛基準測試。他表示即將登陸 transformers。