FOLD：长上下文推测解码免训练新方法

1. 12:00
   arXiv cs.CL

   FOLD：面向长上下文投机解码的免位置远记忆方法

   FOLD 是一种免训练的长上下文投机解码方法，保留精确的局部位置，并将所有远距离条目视为共享同一位置的远记忆。在六组目标-草稿模型组合、最高 256K token 的基准测试中，FOLD 大多取得最高加速，最佳情况下相对自回归解码的加速比从 2.08 倍提升至 4.22 倍。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。