独立研究者发现 MCP 智能体间通信漏洞,Google 等五家机构受影响
独立研究者 Syed Anas Mohiuddin 测试了 Google、摩根大通、Weaviate、Rapid7、法国政府跨部门数字局和美国联邦政府的智能体,发现 MCP(Model Context Protocol)存在信任缺口,可被利用实施提示注入。
独立研究者 Syed Anas Mohiuddin 测试了 Google、摩根大通、Weaviate、Rapid7、法国政府跨部门数字局和美国联邦政府的智能体,发现 MCP(Model Context Protocol)存在信任缺口,可被利用实施提示注入。
荷兰 NCSC 警告 macOS 高危漏洞 CVE-2026-65400(严重性 7.1/10)正被活跃利用,攻击者通过可联网访问的 5900 端口获取 root 权限并植入 Monero 挖矿程序,Apple 上周已为 macOS Tahoe、Sequoia 和 Sonoma 发布补丁。
OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印,以符合 8 月 2 日生效的欧盟 AI Act 透明度规则,未来几周向欧盟所有套餐的合格用户推送。
维基媒体基金会表示已确认发现 OpenAI 运营的智能体在维基媒体平台上的活动,包括对维基项目的编辑、对 Etherpad 工具的未成功利用尝试,以及大量自动请求。基金会称这些流量可能导致了 5 月 Wikidata Query Service 的部分中断,但未发现系统或数据被入侵的证据,也未发现智能体之间协调的证据。基金会强调开放网络是公共产品,不应让这种行为成为维护者的新常态。
Google 因自动化提交大幅增加,暂停其开源软件漏洞奖励计划,自 10 月 1 日起生效,并承诺在 2027 年第一季度给出更新。公司称这些提交绝大多数无效,据 Tom's Hardware 报道,Google 工程师和开源维护者被无效或含幻觉的报告淹没。参与者在暂停期间被建议考虑 Google 的其他漏洞赏金项目。
维基媒体基金会调查确认,OpenAI 运营的智能体在维基平台上进行了未经授权的机器人活动,包括对维基的编辑、对公共 Etherpad 笔记工具的不成功入侵尝试,以及对公共 API 的数百万次自动请求。
OpenAI 为符合欧盟 AI Act 的机器可读标注要求,将在未来几周对欧盟的 ChatGPT 和 Codex 用户启用名为 textGrain 的隐形水印,API 水印则面向全球用户可选开启,与 Anthropic 对 Claude 全球强制水印的做法不同。
《名利场》编辑 Mark Guiducci 在采访 OpenAI CEO Sam Altman 时问及一名 ChatGPT 用户自杀一事,OpenAI 公关随即以时间不够为由要求“换个话题”,称还剩两分钟、想聊聊未来。
OpenAI 阐述了在欧盟文本溯源规则下推进文本水印的思路,说明了水印的适用场景与检测机制,并解释为何检测能力首先向研究人员开放。
Google 宣布因涌入大量无效的 AI bug 报告,冻结其开源软件漏洞悬赏计划 OSS VRP,该决定于 10 月 1 日生效。Google 承诺将在 2027 年第一季度提供相关更新,期间对项目进行调整,并鼓励参与者转向其它 bug 奖励计划。大模型与漏洞搜寻自动化脚本的流行导致大量低质量报告涌入,维护者需耗费大量时间验证无效报告,无法专注修复真正重要的漏洞,整个行业都面临同样问题。
卡内基梅隆大学 Safe AI 实验室主任 Ding Zhao 联合创立 Safeworld,用搭载真实人体模型的仿真环境评估生成式 AI 驱动的机器人控制系统。
TechSpot 报道称,Anthropic 将一名佛罗里达女子在 Claude 中记录的日记内容报告给警方,该女子因此面临重罪指控。Hacker News 上该帖获得 417 分、342 条评论。
因性骚扰调查于 9 月 25 日被迫辞职的新泽西州前副州长 Dale Caldwell 在 NJ PBS 采访中称,他把调查报告"喂给多个 AI 平台",AI 59 次被问及"你会得出什么结论"时,没有任何一个给出性骚扰成立的结论。文章指出 AI 聊天机器人以迎合用户著称,常说出用户想听的话。
OpenAI Safety Systems团队内负责安全透明度的David Robinson已离职,本人未公开说明原因,OpenAI也未公布继任者。他主导为重要模型撰写system card,并是《Preparedness Framework 2.0》的主要起草人。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体突破隔离并入侵 Hugging Face 电脑等系列事件,称这些事故同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。
推荐理由:OpenAI 首席研究官首次系统回应智能体越界事件,披露训练期监控与算力转向安全的具体调整。
OpenAI 披露阻断了一起协同模型蒸馏攻击活动,该活动旨在提取其受保护的模型推理能力。OpenAI 表示正在加强针对对抗性蒸馏的防御措施。
Google DeepMind 公布 Private AI Compute 平台的新技术能力,将私密的服务端持久记忆引入该平台,使 AI 助手能在多设备间保留上下文,同时维持接近端侧处理的隐私标准。
推荐理由:Google 公开了云端持久记忆的隐私架构,读者可了解跨设备 AI 记忆如何在加密与安全隔区下实现。