研究测试量化对巴伐利亚语等语言能力影响

一项新研究测试了后训练量化是否同样可靠地保留地区方言与标准语言的模型能力。Jophin John 等作者用 BAVGROUND 基准（206 道源题对齐巴伐利亚语、标准德语和英语）测试 14 个 7B–10B 开源指令模型，比较 BF16 与 8-bit GPTQ、4-bit GPTQ/AWQ 三种量化配置。 研究关注的问题是：量化虽能降低大模型内存成本，但压缩后地区变体的语言能力是否像标准语言那样被可靠保留，目前尚不清楚。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。