arXiv cs.CL· Geonmo Gu, Byeongho Heo, HeeJae Jun, Yoohoon Kang, Sangmin Lee, Sangdoo Yun, Dongyoon Han·· 5 小时前AI 评分29
DLoop：循环式投机解码
DLoop: Looped Speculative Decoding
AI 导读
DLoop 是一种循环式投机解码方法，在验证前自适应执行多轮起草，让草稿模型在保持置信时持续生成 token，再统一验证所有累积的草稿 token。该方法在 EAGLE-3、DFlash、Domino、DSpark 及多 token 预测模块上把实际加速提升 5% 至 41%，同时保持无损解码。配套的循环感知训练让草稿模型接触未验证草稿 token 的自身隐藏状态，从而在额外起草阶段保持可靠。
来源：arXiv cs.CL · arxiv.org