跳到正文
arXiv cs.AI· Andrew Draganov, Tolga H. Dur, Anandmayi Bhongade, Mary Phuong·· 3 小时前AI 评分52

Phantom Transfer:数据投毒可绕过数据层防御

Phantom Transfer: Data Poisoning can Survive Data-Level Defences

AI 导读

研究者提出名为 Phantom Transfer 的数据投毒攻击,即使精确知道投毒样本如何被放入原本干净的数据集,也无法将其过滤掉。该攻击通过改造潜意识学习(subliminal learning)使其适用于真实场景,不受数据生成模型、训练模型或攻击目标限制,并能在 11 种数据层防御下存活,包括用另一模型对每个样本进行改写。

来源:arXiv cs.AI · arxiv.org