arXiv stat.ML· Eric O. Korman·· 3 小时前AI 评分27
逆推理模型：仅用答案数据实现高效后训练与验证
Inverse Reasoning Models for Efficient Post-Training and Verification from Answer-Only Data
AI 导读
研究提出一种自蒸馏技术，训练一个"逆推理 LLM"根据答案生成原始模型的推理链，从而仅用答案数据完成推理后训练。在 Qwen3-0.6B 上，GRPO 训练饱和后单轮离线蒸馏使困难提示的 pass@1 约翻倍，Countdown 任务上各混合比率的困难尾部指标均优于拒绝采样自蒸馏。
来源：arXiv stat.ML · arxiv.org