跳到正文
arXiv cs.AI· Donghoon Ahn, Runqian Wang, Alexei A. Efros, Taesung Park, Yash Belhe·· 8 小时前AI 评分30

扩散模型的校正训练:Correction Training for Diffusion Models

Correction Training for Diffusion Models

AI 导读

研究者提出为扩散模型增加校正步骤,用基础模型自身的预测作为训练输入、以同一真值目标训练校正器,从而缩小训练与推理之间的差距。该方法在 DiT、SiT 和 JiT 上评测,显著改善了无引导生成尤其是无条件生成的 FID,性能可与 CFG 竞争,与 CFG 结合还能提升多样性并减少过饱和。校正带来的额外推理开销可通过将精炼预测蒸馏回基础扩散模型来摊销,在不增加推理成本的情况下保留质量增益。

来源:arXiv cs.AI · arxiv.org