arXiv cs.CL· Pardis Sadat Zahraei, Gokhan Tur, Dilek Hakkani-T\"ur, Ehsaneddin Asgari·· 2 小时前AI 评分41
对齐否决：安全训练如何压制 LLM 中的文化知识
The Alignment Veto: How Safety Training Suppresses Cultural Knowledge in LLMs
AI 导读
研究覆盖 16 个 MENA 国家、26 个模型和 153 万份人类调查问卷，发现对齐训练与文化价值冲突时发生的是压制而非抹除：模型拒绝回答时，其内部 logit 分布与人类调查数据的相关性反而强于自由生成的答案，作者称之为"对齐否决"。
来源：arXiv cs.CL · arxiv.org