arXiv cs.LG· Kshitij Mishra, Salem Lahlou, Nils Lukas·· 7 小时前AI 评分27
TRACER：用轨迹正则化训练抵御间接提示词注入
TRACER: Trace-Regularized Training Against Indirect Prompt Injection
AI 导读
针对间接提示词注入，研究者提出通道感知的对抗训练方法 TRACER，通过采样呈现包装并结合答案锚定、证据门控奖励与 ATRC，在注入无效时让被攻击推理对齐干净证据。
来源：arXiv cs.LG · arxiv.org