arXiv cs.AI· Srinivasan Subramanian, Kazi Aminul Islam, Md. Abdullah Al Hafiz Khan·· 9 小时前AI 评分24
超越不安全检测：面向多轮 LLM 安全失败的因果锚定证据归因
Beyond Unsafe Detection: Counterfactually Anchored Evidence Attribution for Multi-Turn LLM Safety Failures
AI 导读
研究团队提出 MTAG-Bench 多轮护栏归因数据集与 MTAG-Probe 分层归因模型，用于定位多轮对话中导致 LLM 安全失败的具体证据。MTAG-Probe 在轮级 F1 上比模型自归因和 LLM 安全裁判归因分别提升 28.1 和 24.1 个点（相对提升 79.0% 和 61.0%）。
来源：arXiv cs.AI · arxiv.org