跳到正文
arXiv cs.AI· Zongyue Qin, Haoran Deng, Jason Cong, Yizhou Sun·· 8 小时前AI 评分22

LLoPS:可学习低秩多项式草图实现高效线性注意力

Learnable Low-Rank Polynomial Sketch for Effective Linear Attention

AI 导读

研究者提出可学习低秩多项式草图(LLoPS),一种用线性注意力逼近多项式核的框架,可证明其逼近误差严格小于现有方法。在多项基准测试中,LLoPS 性能优于各类线性注意力基线。该工作被 NeurIPS 2026 接收。

来源:arXiv cs.AI · arxiv.org