arXiv cs.AI· Mark Russinovich, Blake Bullwinkel, Giorgio Severi, Cristian Ovadiuc, Ahmed Salem·· 8 小时前精选AI 评分66
Divide, Consult, Conquer：通过对齐大模型实现能力洗白
Divide, Consult, Conquer: Capability Laundering Through Aligned LLMs
AI 导读
论文提出一种名为能力洗白（capability laundering）的攻击：较弱的未对齐模型可将有害任务拆分为看似无害的子问题，分别咨询更强的对齐模型，再在本地组合答案，且没有任何单次回复构成有害任务。
推荐理由
论文提出能力洗白攻击，揭示拒绝单个有害任务无法阻止前沿能力被拆分转移与组合。
来源：arXiv cs.AI · arxiv.org