跳到正文
热点事件持续更新

MIND:面向LLM Agent的记忆注入防御框架

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

研究者提出轻量防御框架 MIND,用于抵御记忆增强 LLM 智能体面临的记忆注入攻击。该框架用意图感知信息瓶颈从初始意图与逐轮行为中提取紧凑的意图—行为表示,再由轻量检测器识别恶意记忆。 在 ReAct-StrategyQA 上,MIND 将平均 ASR-r 和 ASR-a 分别降低 58.1% 和 53.5%,同时平均准确率与延迟与未防御智能体持平。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    MIND:面向 LLM 智能体的轻量意图感知信息瓶颈记忆注入防御

    针对记忆增强 LLM 智能体易受记忆注入攻击的问题,研究者提出轻量防御框架 MIND,用意图感知信息瓶颈从初始意图与逐轮行为中提取紧凑的意图—行为表示,再由轻量检测器识别恶意记忆。在 ReAct-StrategyQA 上,MIND 将平均 ASR-r 和 ASR-a 分别降低 58.1% 和 53.5%,同时平均准确率与延迟与未防御智能体持平。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。