跳到正文
arXiv cs.AI· Longhao Lei, Lan Yao·· 8 小时前AI 评分32

SharedSAE:跨 U-Net 模块与去噪时间的扩散模型统一稀疏字典

SharedSAE: a unified sparse dictionary across u-net blocks and denoising time for diffusion models

AI 导读

SharedSAE 在 SDXL 1.0 的四个 U-Net 注意力模块和全部 50 个去噪步上学习共享稀疏字典,通过块级低秩输入适配器与时间条件模块吸收时间非平稳性。基于该字典的局部特征抑制将 I2P 检测器阳性子集中 NudeNet 阳性生成数从 139 降至 1。追踪稀疏特征还发现概念表征随去噪推进从最早下采样块向中间及更晚模块重新分布。

来源:arXiv cs.AI · arxiv.org