条件扩散模型记忆与泛化的理论分析

韩国研究者 Gwangho Kim 与 Sungyoon Lee 发表论文，在高维比例极限下分析随机特征条件 score 模型，推导出训练与测试损失的渐近表达式。 分析显示，测试损失可分解为条件均值预测与条件内预测方差两部分：在过参数化区间中增大模型宽度会改善前者、却降低后者，作者称之为“恶性泛化”。训练损失分析则表明，信息量更大的条件会在更小宽度下导致训练样本被记忆。作者称这些结论在真实数据上的 U-Net 实验中得到验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。