Georgi Gerganov、transformersでGGUFモデルを直接実行できると述べる
Georgi Gerganovは、GGUFモデルをtransformersで直接実行できると述べている。同氏によると、この取り組みはggmlのMetalカーネルをtransformersのエコシステムに取り込み、互換性と性能を高める。
Georgi Gerganovは、GGUFモデルをtransformersで直接実行できると述べている。同氏によると、この取り組みはggmlのMetalカーネルをtransformersのエコシステムに取り込み、互換性と性能を高める。