论文称可在模型权重中加密隐藏能力

一篇被 NeurIPS 2026 接收的 arXiv 论文提出一种后门攻击：把加密的神经网络嵌入宿主模型权重，只在收到秘密触发时解密执行。作者称，在密码学假设下，即使拿到完整权重也难以诱导或解释出这段隐藏能力。 作者在 PyTorch 中做了概念验证，并在小规模化学反应预测任务上测试微调、权重加噪、基于梯度的触发搜索和潜空间对抗训练，结果显示这些方法都难以诱导出隐藏能力。论文已公开模型，用于支持防御研究。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。