arXiv cs.LG· Zhenke Duan, Xin Li, Jiqun Pan, Dong Xiaofei, Hanwen Ning, Xinyuan Song·2026-10-12 12:00· 7 小时前AI 评分22

DAMCHA：面向 Transformer 跨头注意力的数据自适应马氏度量学习

Data-Adaptive Mahalanobis Metric Learning for Cross-Head Attention in Transformers

AI 导读

研究者提出 Data-Adaptive Mahalanobis Cross-Head Attention（DAMCHA），通过度量学习视角泛化 Multi-Head Attention（MHA）。

来源：arXiv cs.LG · arxiv.org