研究：对齐训练压制而非抹除模型文化知识

一项新研究提出，大模型的安全对齐训练在遇到与训练目标冲突的文化价值时，产生的是“压制”而非“抹除”。作者称这一现象为“对齐否决”。 研究覆盖 16 个中东和北非（MENA）国家、26 个模型和 153 万份人类调查问卷。结果显示，模型拒绝回答时，其内部 logit 分布与人类调查数据的相关性反而强于模型自由生成的答案。 据作者 Pardis Sadat Zahraei 等人称，这表明文化知识仍存在于模型内部，只是在拒绝回答的瞬间被压制。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。