Georgi Gerganov 表示 transformers 可直接运行 GGUF 模型
这项工作将 ggml 的 Metal 内核引入 transformers 生态。Georgi Gerganov 称，此举可提升兼容性与性能。
#transformers
查看全部AI快讯Pedro Cuenca：tokenizers v1（Rust）快 3 到 30 倍，即将登陆 transformers
Pedro Cuenca 表示 tokenizers v1（Rust）快 3 到 30 倍，具备可选退出的 tokenization 训练 crate、额外优化以及详尽的基准测试。他表示即将登陆 transformers。