跳到正文
arXiv cs.CV· Magdalena Tr\k{e}dowicz, Aleksandra Nowak, Tomasz Steifer, {\L}ukasz Struski, Szymon P{\l}otka, Jacek Tabor·· 2 小时前AI 评分22

LapMerge:线性时间内的可微分精确预算 Token 合并

LapMerge: Differentiable Exact-Budget Token Merging in Linear Time

AI 导读

LapMerge 是一种面向有序序列的可微分 Token 合并算子,通过 Laplace 核密度学习质量分布,将序列划分为恰好 N 个等质量段,前向与反向传播均为 O(M+N) 线性时间。它在视觉与视觉语言任务上匹配或优于强 Token 压缩器,长序列下最高快两个数量级,且预算可在不改变算子参数的情况下调整。

来源:arXiv cs.CV · arxiv.org