arXiv cs.AI· Myunghoon Ryu, Geunpyo Park, Sungjoon Lee, XinYu Piao, Jong-Kook Kim·· 9 小时前AI 评分22
P2Skill:面向云-端 LLM 推理系统的隐私保护技能蒸馏方法
P2Skill: Privacy Preserving Skill Distillation for Cloud-Local LLM Inference Systems
AI 导读
P2Skill 是一种基于提示词的技能蒸馏方法,让本地小语言模型自主执行四项技能,由云端 LLM 根据执行失败迭代优化技能,使本地 SLM 能泛化到记忆的 PII 模式之外,最终技能在设定边界内以最低验证泄漏率选出。该方法无需隐私专用微调或学习型辅助检测器。在真实用户查询上,三种本地 SLM 中最优者传输的标注标识符少于所有向云端发送文本的现有隐私保护方法,且在泄漏率相近时更常保持回答质量。
来源:arXiv cs.AI · arxiv.org