arXiv cs.LG· Xiukun Wei, Tian Xie, Ding Zhu, Xueru Zhang·· 6 小时前AI 评分24
自消耗生成模型与共同演化的人类偏好：NeurIPS 2026 研究
Self-Consuming Generative Models with Co-Evolving Human Preferences
AI 导读
研究揭示，当生成模型完全依赖用户筛选的合成数据迭代训练时，筛选过程会放大初始偏见，使系统收敛至多个单点均衡之一，初始占优的样本最终主导模型分布。若以足够大的比例注入参考数据，系统动态将根本改变，收敛至唯一的全局吸引均衡。作者据此提出一种算法，联合选择参考分布及其混合权重，引导系统在最小化数据收集成本的同时保留期望属性。
来源：arXiv cs.LG · arxiv.org