研究者提出分层强化学习红队对话方法

Roman Belaire 等研究者提出一种分层强化学习红队测试范式，用于对对话大模型进行多轮攻击测试。该方法将红队测试建模为马尔可夫决策过程，目标是最大化多轮交互的预期累积危害，其生成式智能体借助 token 级危害奖励学习多样化的多轮攻击。 研究者称，该方法能持续发现可绕过基线的漏洞，并取得新的 SOTA。该工作已被 NeurIPS 2026 收录。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。