arXiv cs.AI· Haoming Yang, Ke Ma, Yangbangyan Jiang, Ligong Zhang, Xiaojun Jia, Longtao Huang, Yingfei Sun, Qianqian Xu, Qingming Huang·· 8 小时前AI 评分40
LLM 推理中的叙事悖论：PDRA 攻击如何将推理轨迹导向失准
Narrative Paradoxes in LLM Inference: Shaping Reasoning Trajectories toward Misalignment
AI 导读
研究者提出 PDRA（Paradox-driven Reasoning-based Attack），通过将恶意主体与良性任务配对构建悖论叙事核心，再嵌入强制三阶段分析框架，为 LLM 编程有害推理轨迹。该攻击使模型内部表征偏离拒绝模式、抑制安全触发词并激活规划类词汇，在多种 LLM 上实现 SOTA 攻击成功率且效率很高。
来源：arXiv cs.AI · arxiv.org