JetSpec++ 投机解码论文发布并开源

1. 12:00
   arXiv cs.CL

   JetSpec++：带自修正的前瞻并行草稿推测解码

   UC San Diego 等团队提出推测解码方法 JetSpec++，通过块内自修正、块间前瞻草稿与流水线化草稿-验证三项设计，将草稿成本几乎完全隐藏。相比自回归解码实现最高 7.45 倍加速，比 DSpark 快 1.54 倍，在 GB200 上单请求最高 1,361 tokens/s，七个基准平均接受长度 8.94，且保持目标模型输出分布。代码与模型已开源。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。