研究者提出SMOKE框架实现模型合并后门攻击

研究者Yukun Chen等人提出一种针对大语言模型模型合并的新型威胁——单侧合并条件后门（OMCB），并给出基于元学习的攻击框架SMOKE。据该研究，OMCB在单个模型中休眠且无法被检测，但在模型合并后激活，导致安全对齐失效。 SMOKE通过双层优化注入OMCB。研究者称，该攻击在多种模型架构与合并技术上验证有效，并能抵抗现有后门检测。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。