arXiv cs.CV· Weitian Wang, Shubham Rai, Cecilia De La Parra, Akash Kumar·· 4 小时前AI 评分23
面向高效视觉几何 Transformer 的硬件感知校准聚类注意力
Hardware-aware Calibrated Clustered Attention for Efficient Visual Geometric Transformers
AI 导读
针对 VGGT 全局注意力层因超长序列导致的延迟瓶颈，研究者提出 blockwise clustered attention（BC attention），将聚类限制在硬件友好的邻域块内，减少 query 聚类开销与片上/片下内存数据搬运。
来源：arXiv cs.CV · arxiv.org