跳到正文
arXiv cs.CV· Jeonghwan Kim, Sofia Stoica, Jiwan Chung, Ansel Blume, Hyeonjeong Ha, Zhenhailong Wang, Xin Luna Dong, Heng Ji·· 4 小时前AI 评分27

Mixture of Layers(MoL):面向视觉推理的动态层路由方法

Mixture of Layers: Dynamic Layer Routing for Visual Reasoning

AI 导读

研究者提出 Mixture of Layers(MoL),一种在视觉 patch 级别、由指令条件驱动的层路由方法,可从视觉编码器中间层动态聚合与查询相关的隐状态,支持 image、patch 及混合三种 top-k 稀疏聚合方式。

来源:arXiv cs.CV · arxiv.org