arXiv cs.CL· Tahmid Imtiaz Imu, Emama Nahid, Prodipta Sen Amartya, Ahsanul Jobayer, Yutong Song, Jiang Wu, Pengfei Zhang, Honghui Xu·· 2 小时前AI 评分31
Cancerous Backdoor Attack：用不可见 token 与阶段控制器实现 LLM 渐进式后门激活
Cancerous Backdoor Attack: Gradual Activation via Invisible Tokens and A Stage Controller
AI 导读
研究者提出 Cancerous Backdoor Attack，利用不可见 token 提供隐藏阶段、配合阶段控制器在推理过程中追踪攻击进度，使 LLM 的推理在多轮交互中被逐步腐蚀，而非单点触发。该攻击在多个推理数据集上跨模型、跨任务稳定产生渐进式推理损坏，效果优于此前后门攻击基线。结果显示推理损坏在变得可见之前就已逐步发展，仅凭答案准确率不足以检测后门攻击。
来源：arXiv cs.CL · arxiv.org