arXiv cs.LG· Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas, Christian Schroeder de Witt·· 7 小时前AI 评分56
研究显示 AI 模型可证明性地隐藏任意能力
AI Models Can Provably Hide Arbitrary Capabilities
AI 导读
arXiv 论文提出一种后门攻击，将加密神经网络嵌入宿主模型权重，仅在收到秘密触发时解密执行，在密码学假设下即使拥有完整权重也难以被诱导或解释。作者在 PyTorch 中实现概念验证，并在小规模化学反应预测任务上测试微调、权重加噪、基于梯度的触发搜索和潜空间对抗训练，结果显示这些方法均难以诱导出隐藏能力，论文已被 NeurIPS 2026 接收并公开模型以支持防御研究。
来源：arXiv cs.LG · arxiv.org