腾讯混元强调 Hy4 preview 压缩至 214 GiB
腾讯混元引用了 Zhihu Frontier 的一篇解读,介绍如何通过混合精度量化将 Hy4 preview 的 770B 参数权重从约 1.5TB 压缩至 214 GiB。被引用的文章称参数量保持不变,并报告 MRCR 几乎不变,数学能力略有下降。
腾讯混元引用了 Zhihu Frontier 的一篇解读,介绍如何通过混合精度量化将 Hy4 preview 的 770B 参数权重从约 1.5TB 压缩至 214 GiB。被引用的文章称参数量保持不变,并报告 MRCR 几乎不变,数学能力略有下降。