跳到正文
热点事件持续更新

研究者提出单模态微调加批次增强的多模态融合方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

研究者 H M Dipu Kabir 等人提出一种多模态融合方法:先微调预训练的单模态模型,再用 MLP 头整合各模态输出,并以批次增强进行联合训练。 据该研究,在 FPU23 超声和 UPMC Food-101 数据集上,该方法在所调研方法中取得最佳平均结果,并在 UPMC Food-101 上达到 93.29% 的准确率,视觉部分用 ViT-L/16、文本部分用 GPT-2。相关脚本已开源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv cs.CV
    面向大语言模型多模态融合的单模态微调与批次增强方法

    研究者提出单模态微调加批次增强的多模态融合方法,先微调预训练单模态模型,再用 MLP 头整合输出并以批次增强联合训练。在 FPU23 超声和 UPMC Food-101 数据集上,该方法取得所调研方法中的最佳平均结果,并在 UPMC Food-101 上达到 93.29% 的 SOTA 准确率,视觉用 ViT-L/16、文本用 GPT-2。相关脚本已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。