跳到正文
arXiv cs.AI· Rui Wang·· 10 小时前AI 评分23

Variational-Ising-Attention:为科学任务定制注意力机制

Variational-Ising-Attention:Tailored Attention Matters for Science

AI 导读

研究者提出 Variational-Ising-Attention(VIA),在 softmax 归一化基础上引入相互作用 Ising 模型,通过变分平均场推断从可学习的成对耦合中生成注意力模式,将注意力从孤立项的排序扩展为相互作用实体的集体状态。

来源:arXiv cs.AI · arxiv.org