跳到正文
arXiv cs.CL· Jiaming Su, Suorong Yang, Xudong Li, Tengchao Yang, Peng Ye·· 2 小时前AI 评分25

BoundaryEvo:面向长链推理蒸馏的能力边界数据-模型协同演化

BoundaryEvo: Data-Model Co-Evolution at the Capability Boundary for Long-Chain Reasoning Distillation

AI 导读

针对长链推理蒸馏中固定训练集随学生模型演化而失配的问题,研究者提出 BoundaryEvo 两阶段数据-模型协同演化框架,先通过 Capability Priming 直接蒸馏少量教师长推理轨迹建立基础推理能力,再在 Capability-Boundary Co-Evolution 阶段反复筛选学生尚未掌握但专家能可靠解答的问题。

来源:arXiv cs.CL · arxiv.org