研究者提出渐进激活的癌症后门攻击
热点事件持续更新
研究者提出渐进激活的癌症后门攻击
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
研究者 Tahmid Imtiaz Imu 等人提出一种名为 Cancerous Backdoor Attack 的后门攻击方法：利用不可见 token 提供隐藏阶段，配合阶段控制器在推理过程中追踪攻击进度，使大语言模型的推理在多轮交互中被逐步腐蚀，而非单点触发。 据该研究，这种攻击在多个推理数据集上跨模型、跨任务稳定产生渐进式推理损坏，效果优于此前的后门攻击基线。研究还称，推理损坏在变得可见之前就已逐步发展，因此仅凭答案准确率不足以检测后门攻击。
AI 根据报道生成 · 56 分钟前更新
最新进展10月12日 12:00
Cancerous Backdoor Attack：用不可见 token 与阶段控制器实现 LLM 渐进式后门激活报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv cs.CLCancerous Backdoor Attack：用不可见 token 与阶段控制器实现 LLM 渐进式后门激活
研究者提出 Cancerous Backdoor Attack，利用不可见 token 提供隐藏阶段、配合阶段控制器在推理过程中追踪攻击进度，使 LLM 的推理在多轮交互中被逐步腐蚀，而非单点触发。该攻击在多个推理数据集上跨模型、跨任务稳定产生渐进式推理损坏，效果优于此前后门攻击基线。结果显示推理损坏在变得可见之前就已逐步发展，仅凭答案准确率不足以检测后门攻击。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。