arXiv cs.CL· Enrico Liscio, Anne Arzberger, Aditya Shankar, Pradeep K. Murukannaiah·· 5 小时前AI 评分29
Model vs. User：多轮对话中推理时价值对齐谁说了算
Model vs. User: Whose Values Prevail? Inference-Time Value Alignment in Multi-Turn Conversations
AI 导读
研究评估了四种基于提示词和激活的引导方法在多轮对话中的表现，用户与助手模型分别朝相同或相反且同等可取的价值方向施压。当双方方向相反时，与助手基线偏好一致的一方往往占优，早期看似成功的引导效果在数轮后常会衰减甚至反转。作者因此主张引导方法应在完整对话和价值观权衡的两个方向上评估。
来源：arXiv cs.CL · arxiv.org