DPOison-VL：视觉语言DPO的干净偏好投毒攻击
热点事件持续更新
DPOison-VL：视觉语言DPO的干净偏好投毒攻击
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
研究者 Chengtao Jian 和 Kai Yang 提出 DPOison-VL，一种针对视觉语言模型 DPO 对齐的“干净偏好投毒”攻击。该方法只对少量训练图像施加不可感知的扰动，提示词、回答和偏好标注在语义上保持完整，却能操纵模型的对齐结果。 据研究者称，该方法将投毒构造建模为双层优化，并引入偏好位移分数来挑选投毒样本。在仅 2% 投毒数据下，攻击成功率最高达 98%，且可跨模型迁移，同时基本保持干净准确率与通用能力。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
DPOison-VL：视觉语言模型 DPO 的干净偏好投毒攻击报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv cs.AIDPOison-VL：视觉语言模型 DPO 的干净偏好投毒攻击
研究者提出 DPOison-VL，首个针对视觉语言模型 DPO 对齐的干净偏好投毒攻击，仅通过对少量训练图像施加不可感知扰动，即可在提示词、回答和偏好标注语义完整的情况下操纵模型对齐。该方法将投毒构造建模为双层优化，并引入偏好位移分数进行投毒样本选择，在仅 2% 投毒数据下实现最高 98% 攻击成功率，且具备跨模型迁移性，同时基本保持干净准确率与通用能力。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。