跳到正文
arXiv cs.AI· Jia Li, Yinfeng Yu·· 8 小时前AI 评分18

两阶段多模态学习实现动态音视觉导航:从物理对齐到场景聚合

Two-Stage Multi-modal Learning for Dynamic Audio-Visual Navigation: From Physical Alignment to Scene Aggregation

AI 导读

针对动态音视觉导航(D-AVN)任务,研究者提出两阶段多模态学习框架:物理对齐阶段用 Intensity-Calibrated Geometry Encoder(ICGE)将声音强度与视觉几何做物理对齐,场景聚合阶段用基于 Transformer 的 Cross-Modal Scene Aggregator(CMSA)融合多模态特征。

来源:arXiv cs.AI · arxiv.org