arXiv cs.CL· Wenqiang Zhu, Xinping Lei, Zhiyi Lai, Zhengshuo Gong, Tianzhuang He, Songwei Yu, Weihao Li, Jingxuan Xu, Zihang Xu, Gang Wu, Zhongqiu Wang, Yuhui Bai, Jie Li, Zhao Liu, Junhao Fan, Yan Wu, Yanan Wu, Jiaheng Liu, Quan Gu, Ariel Deng·· 5 小时前AI 评分31
ANCHOR:评估仓库级智能体编码中的自然约束层级与顺序
ANCHOR: Assessing Naturalistic Constraint Hierarchies and Ordering in Repository-Grounded Agentic Coding
AI 导读
研究者推出 ANCHOR 基准,用于评估仓库级编码智能体的"工程约束遵循"能力,涵盖 8 种语言组、10 类 78 种子类型的约束层级体系。在 358 个任务、2 种脚手架与 10 个基础模型共 19 种配置中,最强系统 Claude Opus 4.8 搭配 Cline 达到 70.1% 原子约束合规率和 63.7% 关系合规率,仅 19.0% 任务通过全部检查项。
来源:arXiv cs.CL · arxiv.org