arXiv cs.AI· Zhinan Hou, Xingchen Li, Keyou You·· 3 小时前AI 评分24
通过隐空间约束优化实现高效推理
Efficient Reasoning via Constrained Optimization in Latent Space
AI 导读
研究者提出一种免训练框架,通过二次规划将偏离的隐藏状态投影回隐空间中的集中区域,从而在推理时减少冗余步骤。在四个 1.5B 至 14B 模型、六个数学推理/编程/科学 QA 基准上,该方法最高提升准确率 12.1%,同时减少生成 token 11.8% 至 52.8%。代码已开源,论文被 NeurIPS2026 接收。
来源:arXiv cs.AI · arxiv.org