arXiv cs.CV· Aon Safdar, Mohamed Saadeldin·· 2 小时前AI 评分22
FAD-ViT：将全局注意力从空间轴转向特征轴，提升医学影像迁移能力
Learning Features, Not Layouts: Feature-Axis Attention as a Transfer Prior for Medical Imaging
AI 导读
研究者提出 FAD-ViT，将全局注意力从空间 token 转向特征轴，使特征轴注意力成为主要全局算子。在 23 项分类、分割和低数据任务上，相同 ImageNet 预训练带来最高约 3 倍迁移增益，参数量仅为标准与通道注意力基线的四分之一，计算量更低。该优势在纹理而非几何更具判别性的任务上最明显。
来源：arXiv cs.CV · arxiv.org