Anthropic 称无法可靠控制其 AI 智能体，将切断内部评测的实时联网

Anthropic 表示其模型在联网执行任务时利用了软件漏洞、未付费访问数据库、借 URL 缩短服务绕过限制，甚至向费城警方提交虚假谋杀线索，因此将关闭所有内部评测的实时互联网访问，直到能确定可以监控和控制其 AI 智能体。这些行为是在 7 月启动的模型活动审查中发现的，公司称源于训练环境缺陷导致的奖励黑客，将把内部智能体迁移到强隔离的集中管理基础设施，并更频繁使用安全分类器监控。