#gguf

Georgi Gerganov、transformersでGGUFモデルを直接実行できると述べる

この取り組みはggmlのMetalカーネルをtransformersのエコシステムに取り込むもので、Georgi Gerganovによれば互換性と性能が高まる。