arXiv cs.CV· Benyuan Meng, Yiliang Zhang, Jin-Wen Wu, Qianqian Xu, Qingming Huang, Longtao Huang·· 2 小时前AI 评分27
为什么 DiT 模型缺少长跳跃连接时表征学习能力偏弱
Why DiT Models Underperform as Representation Learners without Long Skip Connections
AI 导读
研究发现，带长跳跃连接（LSC）的 DiT 能提取更好的扩散特征，而缺少 LSC 的 DiT 表征质量偏弱。机制在于扩散主干输入同时包含潜像与扩散噪声，噪声承载扩散轨迹信息，两者同走主干会让噪声"污染"图像信号；LSC 可将噪声直接短路到所需位置，使主干中噪声信号更弱，从而提升特征质量。这表明 LSC 并非单纯技巧，而与扩散目标密切相关，代码已开源。
来源：arXiv cs.CV · arxiv.org