Hinton等22人发表首篇RSI论文,探讨AI研发自动化是否触发智能爆炸
Hinton、Bengio等22位作者发表论文《What if automating AI R&D triggers an intelligence explosion?
Hinton、Bengio等22位作者发表论文《What if automating AI R&D triggers an intelligence explosion?
Anthropic 前沿红队评估智谱 GLM-5.3,认为它是首个能像五个月前 Claude Mythos Preview 那样自主构建端到端漏洞利用、却几乎未设拒绝护栏就放出的模型。五个月前 Anthropic 发布 Claude Mythos Preview 时,曾称其是首个能自主构建复杂端到端漏洞利用的 AI 模型。
推荐理由:Anthropic 红队对 GLM-5.3 的评估显示其攻击能力接近 Claude Mythos Preview,但护栏缺失,可对照两份模型的安全策略差异。
Anthropic 前沿红队在内部 Binary Exploitation 基准上随机选取 100 个任务评测多个模型,GLM-5.3 在 4% 的试验中实现了完整的控制流劫持,Claude Mythos Preview 为 6%。