ELROND：探索并分解扩散模型的内在能力

ELROND 通过反向传播固定提示词多次随机生成结果之间的差异来收集梯度，并用 PCA 或稀疏自编码器将其分解为可解释方向，从而在给定条件下恢复扩散模型生成流形的切空间。该方法在受控环境中准确恢复该子空间，并在大规模模型上完成行为验证。相比依赖外部表示的方法，它能更广泛地探索模型能力，且无需重新训练即可缓解蒸馏模型的模式崩溃。