arXiv cs.AI· Jiahe Feng·· 8 小时前AI 评分22
VC-OPD:面向视觉语言推理的视觉反事实在线策略蒸馏
VC-OPD: Visual Counterfactual On-Policy Distillation for Grounded Vision-Language Reasoning
AI 导读
VC-OPD 是一种面向视觉语言推理的在线策略蒸馏方法,通过对学生轨迹分别用原图和破坏实例证据的反事实图做两次教师评估,以两者分布差估计 token 级视觉依赖并软加权损失。该方法先经教师监督热启动稳定输出格式,再采用保质量归一化避免响应级更新尺度不稳,在多模态推理基准上提升了视觉推理表现与 token 级蒸馏效果。
来源:arXiv cs.AI · arxiv.org