arXiv cs.AI· Dani Roytburg, Matthew Bozoukov, Matthew Nguyen, Jou Barzdukas, Simon Fu, Narmeen Oozeer·· 9 小时前AI 评分22
用激活引导向量缓解 LLM 评估器中的自我偏好偏差
Breaking the Mirror: Activation-Based Mitigation of Self-Preference in LLM Evaluators
AI 导读
针对 LLM 作为自动评估器时偏爱自身输出的"自我偏好偏差"，研究者提出在推理阶段用轻量引导向量（steering vectors）进行干预，无需重新训练。通过 Contrastive Activation Addition（CAA）和基于优化的方法构建向量，可将不合理的自我偏好偏差降低最多 97%，显著优于提示词和 DPO 基线。
来源：arXiv cs.AI · arxiv.org