arXiv cs.AI· Michaela Benk, Kacper Sokol·· 8 小时前AI 评分22
信任阻碍了双向人机对齐：NeurIPS 2026 工作坊论文提出 AI 辅助决策三维度框架
Trust Hinders Bidirectional Human-AI Alignment
AI 导读
一篇 NeurIPS 2026 BiAlign 工作坊论文指出，以信任校准为核心的 AI 辅助决策框架过度限制了"用 AI 做决策"的含义。作者提出三个维度：信任 AI 只是管理不确定性的策略之一；当 AI 面对目标与状态仅部分可知的"大世界"决策问题时，信任校准常被误用；此类场景下的人机对齐需处理更高阶的决策过程。论文主张设计面向过程的人机耦合系统，在决策任务中共同识别与协商不确定性。
来源：arXiv cs.AI · arxiv.org