跳到正文
arXiv cs.AI· Soumya Sharma, Ayana Hussain, Heber Hwang Arcolezi, Ulrich A\"ivodji, Spandana Gella, Adriana Romero-Soriano, Golnoosh Farnadi·· 8 小时前AI 评分41

研究揭示 Agentic 对话中的隐私泄露:能力越强的模型泄露越多

Loose Lips: Understanding Privacy Leakage in Agentic Dialogue

AI 导读

研究者将 CIMemories 扩展为 CIMEMORIES DIALOGUE,一个包含 4,410 个双智能体对话实例的基准,基于 Contextual Integrity 理论评估了 Qwen3 和 Llama 3.1 系列的 7 个开源模型。结果显示任务能力与隐私泄露根本耦合:能力越强的模型泄露越多,思考型模型比非思考型泄露更多,对话从 1 轮增至 6 轮时泄露最高增至 3 倍。

来源:arXiv cs.AI · arxiv.org