arXiv cs.LG· Payal Mohapatra, Haodong Yang, Yueyuan Sui, Stephen Xia, Benjamin Lundell, Qi Zhu·· 9 小时前AI 评分22
SemARC:通过自适应采集与序列融合实现高效多模态推理
Efficient Multimodal Inference through Adaptive Acquisition and Sequential Fusion
AI 导读
SemARC 将序列模态聚合器(SeMA)与自适应运行时控制器(ARC)结合,在编码器运行前就选定下一个模态,只执行被选中的编码与融合分支。在六个多模态分类数据集和十一个基线上,SemARC 平均宏 F1 提升 3.2%、总推理 GFLOPs 降低 61.4%,端到端延迟在 GPU 与 CPU 上下降 44.0%、Android INT8 上下降 47.2%。
来源:arXiv cs.LG · arxiv.org