RAISED自蒸馏框架抵御提示注入
热点事件持续更新
RAISED自蒸馏框架抵御提示注入
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
研究者 Mohamed Dhouib 等人提出名为 RAISED 的训练框架，用于提升工具调用型 LLM 智能体对间接提示词注入攻击的鲁棒性。 该框架结合自生成与自蒸馏：模型先自行生成工具使用场景，再通过自蒸馏让学生在干净与注入轨迹上对齐教师的干净上下文行为。 上述效果来自论文作者的表述，尚待独立验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月8日 12:00
RAISED：用自蒸馏提升 LLM 智能体对提示词注入的鲁棒性报道时间线
沿着报道，了解事件的不同侧面。
10月8日
- arXiv cs.CLRAISED：用自蒸馏提升 LLM 智能体对提示词注入的鲁棒性
针对工具调用型 LLM 智能体易受间接提示词注入攻击的问题，研究者提出训练框架 RAISED（Robust Attack Invariance through Self-Distillation），结合自生成与自蒸馏：模型先自行生成工具使用场景，再通过自蒸馏让学生在干净与注入轨迹上对齐教师的干净上下文行为。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。