arXiv cs.CV· Tongtong Liang, Siqi Kou, Ziqiao Xi, Esha Singh, Kun Zhou, Zhijie Deng, Alexander Cloninger, Yu-Xiang Wang, Rahul Parhi·· 4 小时前AI 评分22
残差流负担如何塑造 Diffusion Transformer 的表征学习
Residual-Stream Burden Shapes Representation Learning in Diffusion Transformers
AI 导读
研究提出"残差流负担"概念，解释为何 Diffusion Transformer 在大像素块上预测干净数据能成功、预测噪声或速度却失败：噪声目标要求残差流在深层保留噪声相关的输入变化，迫使后续层在噪声表征上计算。团队据此设计 Spatially Indexed Hyper-Connections（SiHC），直接扩展残差流带宽，在 ImageNet 256² 上达到 FID 1.71。
来源：arXiv cs.CV · arxiv.org