跳到正文
arXiv cs.CL· Jiwon Jeon, Myungsik Cho, Jeonghye Kim, Youngchul Sung·· 2 小时前AI 评分36

UPTURN:用学习到的位置注入用户轮次,重定向 LLM 推理实现自我纠错

Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction

AI 导读

UPTURN 提出一种无需微调 LLM 的自我纠错框架:用 130K 参数 MLP head 在冻结编码器上定位失败推理的干预位置,再以新用户轮次注入指令并重新生成后续内容。在四个推理模型和六个数学基准上,UPTURN 平均准确率均优于 32-rollout 基线,并在相同纠错预算下超过自我纠错与 reflection-token 注入基线,还能跨推理模型迁移至 GPQA-Diamond。

来源:arXiv cs.CL · arxiv.org