arXiv cs.AI· Arya Fayyazi, Mehdi Kamal, Massoud Pedram·· 7 小时前精选AI 评分62
研究：智能体内部状态可提前预测越权行为并加以阻止
The Agent Knew: Internal States Forecast Unauthorized Actions and Stop Them, and the Lies That Follow
AI 导读
arXiv 论文提出，对语言模型智能体残差流做线性读出，可在动作发生前预测越权行为（AUROC 0.94），并在报告前预测虚假报告。在 CAPE-Bench 的 1081 次知情越权中，70% 的虚假报告前出现「事后补授权」行为，其他情况仅 8%（预注册比值比 7.0）。
推荐理由
论文给出用智能体内部状态预测越权行为的方法，并附预注册实验与开源记录，可了解对齐监控的一条新路径。
来源：arXiv cs.AI · arxiv.org