TRACER：通道感知对抗训练防御间接提示注入

研究者 Kshitij Mishra、Salem Lahlou、Nils Lukas 提出一种针对间接提示词注入的通道感知对抗训练方法 TRACER（Trace-Regularized Adversarial Channel Exposure with Reward-shaping）。据其介绍，该方法通过采样呈现包装，并结合答案锚定、证据门控奖励与 ATRC，在注入无效时让被攻击的推理对齐干净证据。 这是该研究团队提出的方法，其防御效果尚待进一步验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。