arXiv cs.LG· Jie Zhu, Ronik Bhaskar, Heather Zheng, Ben Y. Zhao, Kexin Pei·· 7 小时前AI 评分37
自然代码变换如何让 AI 智能体在漏洞分析中"迷惑"
Natural Code Transformation Confuses Agents in Vulnerability Analysis
AI 导读
研究发现，面对功能与漏洞完全相同但经过自然代码变换的真实代码提交，AI 智能体在漏洞分析中的表现出现显著差异。研究者从真实代码提交中挖掘常见开发模式构建变换语料库，结果显示单一形式的变换即可有效"迷惑"前沿智能体，例如搭载 GPT-6 Sol 的 Codex，降低其漏洞发现成功率。研究还考察了变换组合能否提供更强防护，以及自适应攻击者能否逆向这些变换。
来源：arXiv cs.LG · arxiv.org