量化对工具故障恢复的影响因评测设计而异

一项由 Yuhe Hu 发表的研究对比了 Llama-3.1-8B-Instruct 与 Qwen2.5-7B-Instruct 的 8-bit 和 4-bit 量化版本在工具调用失败后的恢复表现，结论是量化带来的恢复能力差异并不稳定：8-bit 与 4-bit 谁更好，会随所用提示词和评测目标而改变方向。 该研究在 20 个确定性工具任务、5 种提示词下进行测试。作者据此称，仅凭一种提示词、一套筛选后的任务集和一种评分策略，无法得出关于量化智能体鲁棒性的稳定结论。

AI 根据报道生成 · 7 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。