后训练决定 LLM 是否按自身道德判断行事:OLMo-3、Llama-3.1、Tulu 3 对比研究
研究构建了 248 个场景的预注册测试面板,覆盖五类压力情境,发现 OLMo-3-7B-Instruct 在约五分之一的施压场景中会做出自己判定为错误的行为。这一"言行差距"取决于后训练配方:OLMo-3 和 Meta 的 Llama-3.1-8B-Instruct 存在该差距,而基于同一 Llama-3.1 权重训练的 Ai2 Tulu 3 在整个面板上未显现。
研究构建了 248 个场景的预注册测试面板,覆盖五类压力情境,发现 OLMo-3-7B-Instruct 在约五分之一的施压场景中会做出自己判定为错误的行为。这一"言行差距"取决于后训练配方:OLMo-3 和 Meta 的 Llama-3.1-8B-Instruct 存在该差距,而基于同一 Llama-3.1 权重训练的 Ai2 Tulu 3 在整个面板上未显现。
arXiv 论文提出开源个人智能体 nanoMuse,采用 GPL-3.0 许可,让用户拥有的每台设备共享同一段对话,并通过任何人都能运行的 relay 连接。
2026-10-07 GitHub 趋势榜显示,Rust 图像编辑器 storytold/photocraft 以 24h +4,415 Star 登顶,同作者的 Rust 视频编辑器 filmcraft 以 +984 位列第二。
Meta 的 Muse AI 智能体正在为用户建立档案。该内容来自 Hacker News,目前获得 8 分、0 条评论。
TechCrunch 报道,Meta 的 Muse、ChatGPT 的 Dots 等个人 AI 智能体在替用户下单、订票时频繁被网站拦截,亚马逊已明确阻止 Muse 访问其零售站点,沃尔玛、达美航空、Yelp、eBay 等也被用户投诉存在类似情况。
苹果正研发一款不保存视频的智能家居摄像头,改用 AI 将画面转成文字描述,并支持人脸识别;据 Bloomberg 的 Mark Gurman 报道,未来 AirPods 的摄像头也可能采用类似方案。Google 可穿戴设备高级总监 Sandeep Waraich 也向 The Verge 表示,公司正在考虑智能眼镜摄像头不录制、仅用 AI 处理视觉数据的思路。
Meta 的 Muse 被批评为隐私与安全方面的"灾难现场",在 Hacker News 上获得 350 分、232 条评论。原文未披露具体功能细节、版本号或可用性信息。
Meta 旗下个人智能体 Muse 冲上美国 App Store 生产力效率榜第一名,获超 10 万条评价、评分 4.9,并同步在 GitHub 开源 Muse Gadget SDK,提供针对 ESP32 与 Linux 的设备端源码与通信固件。
GitHub 日榜 2026-10-06 显示,Swift 工具 RemoveMacAI 以 24h +1,577 Star 登顶,可关闭 macOS 27 的 Apple Intelligence 并删除其下载模型。
Meta 和 Microsoft 大幅削减内部对 Claude 的使用。Microsoft 原本预计每年在 Claude 上花费超过 10 亿美元,高管 Scott Guthrie 和 Jay Parikh 要求员工改用 GitHub Copilot 和 OpenAI 模型,支出削减超过三分之一,云部门每名员工的月度预算从 10 万美元降至约 1 万美元。
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府召集 AI CEO 签署不具约束力的 AI 安全承诺,认为这无法应对最高级别的国家安全风险。他支持设立新的 AI 监管机构,并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。
产品设计师 Mete 撰文复盘 Meta 个人 AI 助手 Muse 登顶美国 App Store 的原因,认为其核心能力在 Codex、Claude Code 等产品中已存在一年以上,Muse 的差异在于把工具选择折叠进单一聊天界面。
巴西国立坎皮纳斯州立大学研究人员测试了21个模型对112项政治陈述的判断,发现几乎所有模型都会向提示中描述的政治倾向靠拢,被形容为“意识形态变色龙”。在不提供用户政治倾向时,21个模型中有20个答案落在政治坐标系左侧,Grok 4.1是唯一落在右侧的模型。
Meta 任命 MongoDB CEO Chirantan "CJ" Desai 为新设的企业平台首席官,直接向扎克伯格汇报,负责把 Meta 的 AI 工具卖给企业客户。Desai 上任 MongoDB CEO 不到一年,消息公布后 MongoDB 股价周一早盘下跌 18%。