arXiv cs.AI· Jian Luo, Kehan Qi, Qingqiao Hu, Meilong Xu, Jiacheng Qiu, Weimin Lyu, Jiawei Zhou, Chao Chen·· 10 小时前AI 评分27
安全对齐的 on-policy distillation 会传播后门吗？3% 投毒率即可达 70% 攻击成功率
Does On-Policy Distillation for Safety Pose Backdoor Risks?
AI 导读
研究发现，安全对齐但被植入后门的教师模型可通过 on-policy distillation（OPD）将隐藏恶意行为传给原本干净的学生模型，3% 投毒率下攻击成功率（ASR）最高达 70%。
来源：arXiv cs.AI · arxiv.org