研究者提出TRG改进视频语言模型蒸馏
热点事件持续更新
研究者提出TRG改进视频语言模型蒸馏
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Xinkai Lu等作者提出时序响应引导(TRG)方法,用于视频语言模型的 on-policy 蒸馏。TRG 通过测量表征对局部时序扰动的响应来调整教师监督方向,同时保留余弦损失值与对齐表征梯度范数。 在 TempCompass、Video-MME、MVBench 和 Video-MMMU 四个基准上,TRG 将 4B 学生模型的宏平均准确率较仅输出蒸馏基线提升 2.86 个百分点。
AI 根据报道生成 · 58 分钟前更新
最新进展10月12日 12:00
面向视频语言模型的时序响应引导潜在蒸馏(TRG)报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv cs.CV面向视频语言模型的时序响应引导潜在蒸馏(TRG)
针对视频语言模型的 on-policy 蒸馏,研究者提出时序响应引导(TRG),通过测量表征对局部时序扰动的响应来调整教师监督方向,同时保留余弦损失值与对齐表征梯度范数。在 TempCompass、Video-MME、MVBench 和 Video-MMMU 上,TRG 将 4B 学生模型的宏平均准确率较仅输出蒸馏基线提升 2.86 个百分点。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。