arXiv cs.AI· Zixuan Weng, Haoqi He, Weifei Jin, Yue Huang, Yang Bai·2026-10-12 12:00· 1 天前AI 评分31

研究揭示 LLM 从注意力到 MLP 的安全通路，并提出 Sentinel 检测框架

Attention Sees, MLP Refuses: Tracing the Attention-to-MLP Safety Pathway in LLMs

AI 导读

研究在 Qwen、Llama、Gemma 的 18 组 Base-Instruct 模型对上发现，有害性更易从 attention 更新中解码，而 MLP 更新在对齐模型中更强地参与拒绝写入，后训练会强化这一 MLP 拒绝写入但未系统性提升有害性可解码性。

来源：arXiv cs.AI · arxiv.org