arXiv cs.AI· Sarim Hashmi, Mukul Ranjan, Kshitij Mishra, Mikhail Kuznetsov, Praneeth Vepakomma, Nils Lukas·· 9 小时前AI 评分36
AdvSim2Real：在 Web 世界模型中用自适应提示注入训练 Web 智能体
AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model
AI 导读
AdvSim2Real 让任务课程、注入攻击方与智能体在一个冻结的 Web 世界模型内共同演化，课程奖励智能体约一半成功率的任务，攻击方只奖励把判定成功翻转为失败的注入。训练使 4B 智能体在有无攻击下完成率均上升，并能抵御从未训练过的前沿模型攻击，能力提升还迁移到真实浏览器。在 150 个 Web 任务上，面对该未见攻击方，其完成率相对基线智能体提升 33.6%。
来源：arXiv cs.AI · arxiv.org