关于 AI 智能体的可审计声明:arXiv 论文提出 Auditable Agents 框架
arXiv 论文提出让 AI 智能体的声明变得可审计的方法:声明必须先明确其策略、范围、可据以判定的记录及记录撰写方,并在裁决前固定决策规则。该研究将 Auditable Agents 框架的 Policy Checkability 维度从单一动作扩展到声明,并针对智能体补充独立记录覆盖、动作参数授权绑定、超越完整性的完备性三项条件。
arXiv 论文提出让 AI 智能体的声明变得可审计的方法:声明必须先明确其策略、范围、可据以判定的记录及记录撰写方,并在裁决前固定决策规则。该研究将 Auditable Agents 框架的 Policy Checkability 维度从单一动作扩展到声明,并针对智能体补充独立记录覆盖、动作参数授权绑定、超越完整性的完备性三项条件。
犹他州将允许 AI 在没有人类监督的情况下为患者问诊并开具药物处方。该报道称犹他州由此成为首个采取此类做法的州。
OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本添加水印,其他地区也提供该功能但默认关闭。此举是为遵守 8 月生效的欧盟 AI 法案,该法案要求以可被其他工具检测的方式标记 AI 生成内容。OpenAI 的水印方法名为 textGrain,原理是在用词中埋入人类读者难以察觉的模式,检测器访问权限将先向有限的研究者和机构开放。
美国民主党、共和党和独立派议员提出多项立法,拟大幅限制联邦机构使用 Flock 自动车牌识别摄像头。Sanders、Ocasio-Cortez 和 Merkley 提出 Ban Flock Act,禁止联邦机构使用 ALPR 并切断对使用该摄像头的地方政府的联邦拨款,还允许民众起诉联邦政府。
韩国计划通过政府股权投资投入4.7万亿韩元(约34.9亿美元)发展本土前沿AI模型,资金属于2027年预算提案,尚待国会批准。另一条资金线将支持韩国自研模型在本国经济中的采用,政府还将启动允许初创企业参与的公开竞赛,LG AI Research、SK Telecom和Upstage等现有竞赛入围者不会自动获得额外资金。
AI 技术迭代与产业落地速度持续加快,但配套的数据合规体系、风控意识与行业规范整体滞后,合规风险集中落在数据采集、处理、存储、流转、输出全链条。
OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印,以符合 8 月 2 日生效的欧盟 AI Act 透明度规则,未来几周向欧盟所有套餐的合格用户推送。
医疗初创公司 Nolla Health 宣布,犹他州 18 岁以上轻中度痤疮用户可通过其 App 扫描面部,由 AI 分析严重程度并自主开具处方。该试点前 100 名患者由两名医生逐单审核,之后最多 500 名患者改为开方后审核,此后每月抽查至少 10% 处方及所有升级或副作用案例。服务每月 4.99 美元,AI 目前可开具 8 种皮肤治疗方案,无法确定治疗时会转介医生。
特朗普宣布成立新的超级智能工作组(Super Intelligence Force),由国家情报总监 Jay Clayton 领导,FTC 主席 Andrew Ferguson、战争部研究与工程副部长 Emil Michael、人事管理办公室主任 Scott Kupor 任副主席。
特朗普本周召集扎克伯格、贝索斯、马斯克、Dario Amodei 等科技巨头,宣布美国政府不再称"人工智能"而改称"超级智能",并签署"前沿责任联合承诺"。该承诺被指"完全不具法律约束力",特朗普称其"道德上有约束力",协议文本还把 United States 拼错。与会者认为这场会议实质是一次围绕 AI 的品牌重塑。
OpenAI 为符合欧盟 AI Act 的机器可读标注要求,将在未来几周对欧盟的 ChatGPT 和 Codex 用户启用名为 textGrain 的隐形水印,API 水印则面向全球用户可选开启,与 Anthropic 对 Claude 全球强制水印的做法不同。
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处将“多出好几个数量级”,因此世界应接受黑客攻击、诈骗等“一些坏事”发生。
昆尼皮亚克大学民调显示,47% 的美国受访者希望放缓 AI 发展速度,30% 希望在有安全保障前完全停止,仅 5% 希望加快。86% 支持目前正在讨论的 AI 独立安全标准,即使这会拖慢进展;73% 担心 AI 最终威胁人类生存,74% 对 AI 公司领导者几乎或完全不信任。该调查于 9 月 24 日至 27 日访问 1202 名美国成年人,误差范围为正负 3.5 个百分点。
OpenAI 阐述了在欧盟文本溯源规则下推进文本水印的思路,说明了水印的适用场景与检测机制,并解释为何检测能力首先向研究人员开放。
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府召集 AI CEO 签署不具约束力的 AI 安全承诺,认为这无法应对最高级别的国家安全风险。他支持设立新的 AI 监管机构,并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。
挪威希望对可录制旁人的 AI 眼镜争取时间以制定永久性规则,这成为 AI 眼镜面临的首个重大政府监管行动。
华为与高通宣布达成一项多年期广泛专利许可协议,包含双方在 5G、计算、AI 和网络等技术领域的专利组合交叉授权,以及高通购买华为在计算、AI、网络等领域的部分美国专利。该交易将在获得必要监管批准后完成,双方表示协议符合 FRAND 原则。
特朗普宣布成立“Super Intelligence Force”(SIF),其“Superintelligence”只是他对人工智能的称呼,与学界指代远超人类智能的自改进系统的超级智能概念无关。
Amazon Web Services CEO Matt Garman 表示,公司已停止在与政府机构合作建设数据中心项目时使用保密协议(NDA)。他在一篇博客文章中反驳了关于数据中心耗水、推高电价、污染严重和缺乏社区效益的四项说法,并称美国目前有超过 100 项数据中心禁令正在审议中。
美国逮捕一名科技公司 CEO,其被指控向中国走私价值 3 亿美元的 Nvidia 芯片。Ars Technica 报道称,随着逮捕行动持续,Nvidia 的芯片走私问题仍未消失。
美国联邦法官 Amit Mehta 驳回 Chegg 和 Penske Media 对 Google 提起的反垄断诉讼,认定 Google 在 AI overviews 等产品中的行为不违反反垄断法。