跳到正文
arXiv cs.AI· Hamed Mahdavi (Pennsylvania State University), Pouria Mahdavinia (Pennsylvania State University), Majid Farhadi (Google), Vasant Honavar (Pennsylvania State University)·· 8 小时前AI 评分29

SPLICE:用演示者失败轨迹拼接提示,提升模型数学推理与奥赛证明能力

Splicing Hints into Reasoning Traces: Learning from Demonstrator Failures

AI 导读

SPLICE 将验证与修复移出训练循环,改为离线数据生成:第二个模型仅凭参考解答,在推理模型生成轨迹时逐步校验,在最后一个已验证步骤截断失败轨迹,并拼接自适应增强的提示直至推理恢复。用 SPLICE 轨迹微调的模型在 AIME 上超过用未编辑轨迹蒸馏的同款模型,并在经人工评分验证的评分协议下于奥赛证明上同样领先。该模型在困难处会以拼接提示的风格宣告分支并采取更高风险步骤,预测熵随之上升。

来源:arXiv cs.AI · arxiv.org