arXiv cs.LG· Haohui Zhang, Zhiye Wang, Xiaoying Gan, Xinbing Wang, Bo Jiang·· 7 小时前AI 评分27
LEAP：通过前瞻早期收敛 token 检测释放 dLLM 并行能力
LEAP: Unlocking dLLM Parallelism via Lookahead Early-Convergence Token Detection
AI 导读
针对扩散语言模型（dLLM）依赖高置信度阈值、限制并行解码扩展性的问题，研究者提出免训练、即插即用的 LEAP 方法，利用未来上下文过滤与多序列叠加检测早期收敛 token。相比基于置信度的解码，平均去噪步数减少约 30%；在 GSM8K 上结合 dParallel 可将解码加速至每步 7.2 个 token，同时保持模型精度。
来源：arXiv cs.LG · arxiv.org