DCOCO并行草稿上下文校正方法发布

Roy Eisenstadt等作者发布DCOCO（DFlash Contextual Corrector），一种用于推测解码的轻量机制。它针对并行草稿丢失草稿块内token依赖的问题，在保留并行草稿的同时恢复这些依赖。 其做法是不直接采用每个位置的最高预测，而是保留多个候选token，并并行评估相邻草稿位置的上下文兼容性。作者称该机制能恢复被丢失的依赖。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。