#quantization

Tencent Hunyuan、Hy4 previewの214 GiBへの圧縮を強調

Tencent Hunyuanは、混合精度量子化によりHy4 previewの770Bパラメータの重みを約1.5TBから214 GiBに縮小したことに関するZhihu Frontierの解説を引用した。引用された記述では、パラメータ数は変わらず、MRCRはほぼ変わらず、数学でわずかな低下があると報告している。