跳到正文
arXiv cs.AI· Anand Swaroop, Maheep Chaudhary, Kevin Zhu, Sunishchal Dev, Vasu Sharma·· 9 小时前AI 评分27

LIFT:基于似然的干预忠实度训练,提升 LLM 链式推理忠实性

LIFT: Likelihood-Based Intervention Faithfulness Training

AI 导读

研究者提出 LIFT,通过将推理步骤替换为领域匹配但无关的事实、测量答案对数概率下降来自动为每步推理的因果影响打分,并在高分 CoT 轨迹上微调,同时优化忠实度与准确率。该方法在 Mistral-7B-Instruct、Qwen3-8B 和 Qwen3-4B-Instruct 三个模型及三个基准上提升了忠实度,准确率与仅针对准确率微调的模型相当。

来源:arXiv cs.AI · arxiv.org