arXiv cs.AI· Roman Belaire, Arunesh Sinha, Pradeep Varakantham·· 9 小时前AI 评分30
用分层强化学习对对话大模型进行红队测试
There are Levels to It: Red Teaming Dialogue With Hierarchical Reinforcement Learning
AI 导读
研究者提出一种分层强化学习红队测试范式，将红队测试建模为马尔可夫决策过程，以最大化多轮交互的预期累积危害。其生成式智能体借助 token 级危害奖励学习多样化的多轮攻击，持续发现可绕过基线的漏洞，取得新的 SOTA，该工作已被 NeurIPS 2026 收录。
来源：arXiv cs.AI · arxiv.org