多轮对话中价值对齐引导效果易衰减

1. 12:00
   arXiv cs.CL

   Model vs. User：多轮对话中推理时价值对齐谁说了算

   研究评估了四种基于提示词和激活的引导方法在多轮对话中的表现，用户与助手模型分别朝相同或相反且同等可取的价值方向施压。当双方方向相反时，与助手基线偏好一致的一方往往占优，早期看似成功的引导效果在数轮后常会衰减甚至反转。作者因此主张引导方法应在完整对话和价值观权衡的两个方向上评估。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。