生成式推荐模型被曝条件定向投毒漏洞

研究人员发现，生成式推荐模型存在条件定向投毒漏洞：向模型注入不到 1% 的合成交互数据，即可在特定触发条件下显著提升恶意目标的推荐概率。 针对该漏洞，Zhuoxuan Zhang 等作者提出黑盒框架 AlignPoison，从 API 输出中发现并采样上下文对齐前缀。作者称，在单模态与多模态基准测试中，该框架的攻击成功率（ASR）提升最高达 16.3 个百分点。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。