arXiv cs.AI· Kaiming Liu, Fuwen Luo, Ziyue Wang, Jinrui Ju, Yuxuan Liu, Xuanyu Lei, Yunghwei Lai, Peng Li, Yang Liu·· 9 小时前AI 评分30
Illusion of Alignment：检测协作对话中的隐藏分歧
Illusion of Alignment: Detecting Hidden Disagreement in Collaborative Dialogue
AI 导读
研究提出"对齐幻觉（IoA）"概念，即协作对话表面达成一致但参与者仍存在目标或执行分歧，并构建 IoA-Suite 数据集与评测协议来检测此类隐藏分歧。最佳模型在 IoA-Suite 上仅达 49.5% F1，瓶颈在于对话未暴露的私有上下文；基于该数据集训练的 IoA-Prober-8B 达到 51.8% F1，在 18 场真实会议中每场平均发现 2.89 个参与者确认未说出的隐藏分歧。
来源：arXiv cs.AI · arxiv.org