arXiv cs.CV· Xinrui Lin, Fan Li, Shumin Wang, Dehong Kong, Yanyong Zhang·· 5 小时前AI 评分22
视频 GRPO 中的成对偏好循环:可靠性锚定的偏好游走方法
When Pairwise Preferences Cycle: A Reliability-Anchored Preference Walk for Video GRPO
AI 导读
针对视频生成模型 GRPO 训练中成对偏好反馈普遍存在循环偏好的问题,研究者审计了 6,976 个 on-policy 比较图,发现循环偏好普遍存在且贯穿训练全程。
来源:arXiv cs.CV · arxiv.org