arXiv cs.CL· Jiaming Fan, Daming Cao, Canchen Huang, Jiale Fu, Jin Zhang, Junjie Gao, Kai Yang, Xiangzhong Luo, Xu Yang·· 5 小时前AI 评分22
TreeGraft：面向树状投机解码的自适应多草稿模型嫁接框架
TreeGraft: Adaptive Multi-Drafter Grafting for Tree-Based Speculative Decoding
AI 导读
TreeGraft 提出多草稿模型框架，让不同成本的 drafter 共同构建共享草稿树，用强 drafter 重打分并恢复被弱 drafter 遗漏的候选路径，同时非破坏性地整合强 drafter 扩展。
来源：arXiv cs.CL · arxiv.org