论文：移除信息量不能证明开放权重模型抗篡改

一篇 arXiv 论文指出，开放权重模型仅靠移除有害信息，无法普遍保证其抵抗微调攻击。作者 Domenic Rosati 等称，发布时的互信息本身不能普遍证明模型被篡改后恢复缓慢。 论文给出的机制是：保函数的重参数化不改变互信息，却会改变梯度下降的几何，使基于互信息的不变量证书受限于最快可达的参数化路径。实验显示，在权重-数据互信息固定时，训练顺序仍能改变恢复时间；论文还构造出一种情形，两类互信息均为零，但模型在一步梯度更新后即可恢复。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。