arXiv cs.AI· Lennart B\"urger, Piotr Komorowski, Moritz Weckbecker, Evgenii Kortukov, Aakriti Jain, Sebastian Lapuschkin, Wojciech Samek·· 8 小时前AI 评分36
研究揭示：即使 CoT 对答案必要，思维链监控仍可能失效
Chain of Thought Monitoring Can Fail Even When CoT Is Necessary
AI 导读
一项 arXiv 研究指出，前沿实验室用于检测 AI 系统不当行为的 CoT 监控即便在 CoT 对答案必要时也会失效，现有"必要/非必要"二分原则过于粗糙。作者提出四级 CoT 必要性层级及干预实验框架，在困难医疗诊断任务中，患者性别和一项临床属性分别影响至少 19% 和 24% 的正确回答，却几乎从未被 CoT 表述出来。
来源：arXiv cs.AI · arxiv.org