研究：优化器选择影响训练数据泄露程度

一项 arXiv 论文比较了 SGD、Adam、Muon 三种优化器对训练数据重建泄漏的影响，结论是优化器的隐式偏差决定泄漏程度：SGD 和 Muon 的平稳性条件保留足够权重信息，实践中可重建训练样本；Adam 在 ℓ∞ 隐式偏差机制下仅编码最大坐标的离散模式，对评估的攻击持续更具抵抗力。 研究由 Sagi Habani、Yehonathan Refael、Ofir Lindenbaum 完成，核心问题是优化器选择是否影响训练数据被恢复的难易。结论意味着隐私风险不只取决于训练数据本身，也取决于所用优化器的隐式偏差。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。