arXiv cs.AI· Weitong Li, Donglin Song, Junkai Lin, Xi Xuan·· 8 小时前AI 评分22
超越偏见分数:GCD 梯度约束方向设计揭示激活引导中的可回答性混淆
Beyond Bias Scores: Answerability Confounds in Activation Steering with Gradient-Constrained Direction Design (GCD)
AI 导读
研究在 BBQ 基准上发现,偏见分数混淆了模型偏好与是否作答,可回答性通道在 99 种配置中有 17% 超过分数变化的一半、11% 构成全部变化。作者提出 Gradient-Constrained Direction Design(GCD),在 Qwen-7B 协议下将作答率失真降低 14 倍,偏好改变提升 4 倍,并建议在报告分数时同时披露可回答性。
来源:arXiv cs.AI · arxiv.org