arXiv cs.AI· Yukun Chen, Yidou Chen, Yiming Li, Xinyu Zhang, Baosong Yang, Hongwei Yao, Zhan Qin·· 8 小时前AI 评分38
针对大语言模型模型合并的单侧合并条件后门攻击 OMCB 与 SMOKE 框架
Towards Merging-conditional Backdoor Unalignment against Large Language Models
AI 导读
研究者揭示了一种新型威胁——单侧合并条件后门（OMCB）：它在单个模型中休眠且无法被检测，但在模型合并后激活并导致安全对齐失效。为此提出基于元学习的攻击框架 SMOKE，通过双层优化注入 OMCB，在多种模型架构与合并技术上验证有效，并能抵抗现有后门检测。
来源：arXiv cs.AI · arxiv.org