arXiv cs.CV· Magdalena Tr\k{e}dowicz, Aleksandra Nowak, Tomasz Steifer, {\L}ukasz Struski, Szymon P{\l}otka, Jacek Tabor·· 2 小时前AI 评分22
LapMerge:线性时间内的可微分精确预算 Token 合并
LapMerge: Differentiable Exact-Budget Token Merging in Linear Time
AI 导读
LapMerge 是一种面向有序序列的可微分 Token 合并算子,通过 Laplace 核密度学习质量分布,将序列划分为恰好 N 个等质量段,前向与反向传播均为 O(M+N) 线性时间。它在视觉与视觉语言任务上匹配或优于强 Token 压缩器,长序列下最高快两个数量级,且预算可在不改变算子参数的情况下调整。
来源:arXiv cs.CV · arxiv.org