arXiv cs.AI· Saloni Gupta, S\'ebastien Krier, Glenn Matlin·· 8 小时前AI 评分30
研究揭示 LLM 智能体 KV cache 中的客户目标泄漏问题：OLMo-3-7B-Instruct 跨客户决策偏差达 22%
When Goals Leak Across Relationships: How Cached Goal Representations Shape Cross-Client Decisions
AI 导读
研究测试 OLMo-3-7B-Instruct 在双客户对抗场景下的表现，发现共享对话记忆时模型在 22% 的决策中偏离当前客户目标。线性探针显示客户目标归属信息在中间层高度可恢复并集中于特定注意力头，消融竞争对手的缓存目标表示可将模型决策拉回当前客户。结果表明客户特定目标表示持久存在于 KV cache 中并能因果影响跨客户决策，凸显持久化 LLM 智能体中关系隔离状态的重要性。
来源：arXiv cs.AI · arxiv.org