跳到正文
arXiv cs.LG· Yining Lu, Meng Jiang·· 5 小时前AI 评分22

多目标对齐中的跨目标干扰:COVER 重加权方法研究

Uncovering Cross-Objective Interference in Multi-Objective Alignment

AI 导读

研究首次系统分析了 LLM 多目标对齐中"跨目标干扰"现象——标量化训练只提升部分目标而其他目标退化,该现象普遍存在但强依赖模型。作者推导出局部协方差定律,并据此提出 COVER(协方差下限强制重加权)控制器,仅在目标奖励与标量化分数的协方差低于阈值时提升其权重。实验表明 COVER 能缓解干扰,且在目标已协同改善时与线性标量化持平。

来源:arXiv cs.LG · arxiv.org