arXiv cs.AI· Zhuoxuan Zhang, Jinhao Duan, Xinyu Zhao, Jinduo Guo, Shuai Shao, Rui Li, Luke Simon, Zhun Deng, Tianlong Chen, Bo Sun·· 8 小时前AI 评分27
AlignPoison：通过解码对齐前缀对生成式推荐模型实施条件定向投毒
AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes
AI 导读
研究发现生成式推荐模型存在条件定向投毒漏洞：注入不到 1% 的合成交互即可显著提升触发条件下恶意目标的推荐概率。为此提出的黑盒框架 AlignPoison 从 API 输出中发现并采样上下文对齐前缀，在单模态与多模态基准上 ASR 提升最高达 16.3 个百分点。
来源：arXiv cs.AI · arxiv.org