LIFT:用似然干预训练更忠实的链式推理
热点事件持续更新
LIFT:用似然干预训练更忠实的链式推理
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
研究者提出一种名为 LIFT 的忠实性训练方法,用于提升大语言模型链式推理(CoT)的忠实度。其做法是:把推理中的每一步替换为领域匹配但无关的事实,测量答案对数概率的下降幅度,以此自动为每步推理的因果影响打分,再在高分 CoT 轨迹上微调模型。 据该研究,LIFT 在 Mistral-7B-Instruct、Qwen3-8B 和 Qwen3-4B-Instruct 三个模型及三个基准上提升了忠实度,准确率与仅针对准确率微调的模型相当。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
LIFT:基于似然的干预忠实度训练,提升 LLM 链式推理忠实性报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.AILIFT:基于似然的干预忠实度训练,提升 LLM 链式推理忠实性
研究者提出 LIFT,通过将推理步骤替换为领域匹配但无关的事实、测量答案对数概率下降来自动为每步推理的因果影响打分,并在高分 CoT 轨迹上微调,同时优化忠实度与准确率。该方法在 Mistral-7B-Instruct、Qwen3-8B 和 Qwen3-4B-Instruct 三个模型及三个基准上提升了忠实度,准确率与仅针对准确率微调的模型相当。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。