跳到正文
热点事件持续更新

研究:KV缓存致LLM智能体跨客户目标泄漏

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

一项新研究测试 OLMo-3-7B-Instruct 在双客户对抗场景下的表现,发现共享对话记忆时,模型在 22% 的决策中偏离当前客户目标,转而受另一客户目标影响。 线性探针显示,客户目标归属信息在模型中间层高度可恢复,并集中于特定注意力头;消融竞争对手的缓存目标表示后,模型决策可被拉回当前客户。作者称,这表明客户特定目标表示持久存在于 KV cache 中并能因果影响跨客户决策,凸显持久化 LLM 智能体中关系隔离状态的重要性。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    研究揭示 LLM 智能体 KV cache 中的客户目标泄漏问题:OLMo-3-7B-Instruct 跨客户决策偏差达 22%

    研究测试 OLMo-3-7B-Instruct 在双客户对抗场景下的表现,发现共享对话记忆时模型在 22% 的决策中偏离当前客户目标。线性探针显示客户目标归属信息在中间层高度可恢复并集中于特定注意力头,消融竞争对手的缓存目标表示可将模型决策拉回当前客户。结果表明客户特定目标表示持久存在于 KV cache 中并能因果影响跨客户决策,凸显持久化 LLM 智能体中关系隔离状态的重要性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。