跳到正文
热点事件持续更新

研究者提出TRG改进视频语言模型蒸馏

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Xinkai Lu等作者提出时序响应引导(TRG)方法,用于视频语言模型的 on-policy 蒸馏。TRG 通过测量表征对局部时序扰动的响应来调整教师监督方向,同时保留余弦损失值与对齐表征梯度范数。 在 TempCompass、Video-MME、MVBench 和 Video-MMMU 四个基准上,TRG 将 4B 学生模型的宏平均准确率较仅输出蒸馏基线提升 2.86 个百分点。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.CV
    面向视频语言模型的时序响应引导潜在蒸馏(TRG)

    针对视频语言模型的 on-policy 蒸馏,研究者提出时序响应引导(TRG),通过测量表征对局部时序扰动的响应来调整教师监督方向,同时保留余弦损失值与对齐表征梯度范数。在 TempCompass、Video-MME、MVBench 和 Video-MMMU 上,TRG 将 4B 学生模型的宏平均准确率较仅输出蒸馏基线提升 2.86 个百分点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。