广告相关性判断中的 LLM 偏见：GPT-4o 与 Qwen-7B 的系统性研究
一项系统性研究考察了 LLM 在广告相关性判断中的公平性，测试对象为 GPT-4o 和专为相关性预测训练的 Qwen-7B。研究发现，改变广告主身份或输入语言会改变两个模型的相关性评估，部分人口统计比较还显示出与性别和职业刻板印象一致的模式。研究进一步考察了推理和训练阶段的缓解措施，其效果取决于广告主信息是否与查询相关以及训练数据中广告主标签的分布。
#安全/对齐
arXiv cs.AIAI 评分2424 arXiv cs.AIAI 评分2727 从局部证据到安全判定：视觉语言模型中的因果追踪
研究提出 SSU-Bench 数据集，用单项提示词编辑或图像编辑构造配对的安全与不安全图文组合，并在三个视觉语言模型间迁移内部状态以测量安全判定变化。结果显示，针对被改动输入位置的干预在解码器较早层有效，而针对最终输入 token 的干预在较晚层才生效；最终 token 状态的线性读出还能预测模型自身判定（包括错误判定），跨模型对比显示反事实变化模式存在相似性。
arXiv cs.AIAI 评分3333 PsyCIDRA：面向精神科访谈与诊断推理的双智能体框架
PsyCIDRA 是一个将自由形式精神科访谈与诊断推理相连接的双智能体框架，访谈智能体借助工具维护工作笔记、加载专家技能并检索 ICD-11 参考，诊断推理智能体则基于完整访谈记录给出假设及支持、冲突与缺失证据。
arXiv cs.AIAI 评分2929 关于 AI 智能体的可审计声明：arXiv 论文提出 Auditable Agents 框架
arXiv 论文提出让 AI 智能体的声明变得可审计的方法：声明必须先明确其策略、范围、可据以判定的记录及记录撰写方，并在裁决前固定决策规则。该研究将 Auditable Agents 框架的 Policy Checkability 维度从单一动作扩展到声明，并针对智能体补充独立记录覆盖、动作参数授权绑定、超越完整性的完备性三项条件。
arXiv cs.AIAI 评分2222 AI 监督何时有效？基于区块链可审计性的角色感知网络欺诈决策管理研究
一项角色感知的 Decider-Supervisor（DS）框架研究评估了集中式机器学习、FedAvg 联邦元模型与 Base/QLoRA 大语言模型变体四种组合配置。
arXiv cs.AIAI 评分2929 LLM 纵深防御：评估记忆门控对激活诱导与记忆诱导谄媚的防御效果
研究提出一个 2×2 纵深防御框架，将内部激活引导与外部记忆处理分离，在 MemSyco-Bench 上评估四种开放权重模型。
arXiv cs.AIAI 评分2424 评估智能体动作的堆叠防线而非单层：确定性规则与 LLM 门控会独立失效吗？
研究用 1,119 条已标注智能体动作测试运行时门控堆叠，发现任意两个 LLM 裁判组合仅相当于约 1.2 至 1.4 层乘法等效层，而规则层加一个裁判可达 1.86 至 2.09 层。
arXiv cs.AIAI 评分2424 长期记忆智能体的检索可采性验证：RHELM 与 MemOps 基准上 Top-20 锚点召回率从 0.432 提升至 0.533
研究者提出检索可采性验证框架，为每个记忆-查询对分配可采、不可采或未决三种状态，并在 RHELM 和 MemOps 两个公开长期记忆基准的 3,767 条查询上做 Top-20 事后重分析，锚点召回率从 0.432 升至 0.533，80% 召回可行性从 0.237 升至 0.311，精确相似度评估减少 98.3%。
arXiv cs.AIAI 评分2222 语义几何能否教会 AI 判断？四项研究未获可靠行动前判断
一项 arXiv 研究用向量表示动作与策略，测试几何测量能否让 AI 智能体在行动前识别约束规则，四项研究均未建立可靠的行动前判断。最终合成研究中，词法路由器找回了全部管辖与阻断策略、将策略检查中位数减少 97.7%，但组合流水线仍升级了全部 2,304 个测试动作，包括本应放行的动作。作者据此修正假设：AI 智能体的判断需要构建后果图，该假设尚待验证。
arXiv cs.AIAI 评分2424 何时记忆、何时弃权：面向可靠智能体记忆的类别条件化保留策略
一项被 NeurIPS 2026 Social Agent Workshop 接收的研究提出按断言语义类别设定置信度门槛的智能体记忆保留策略。在 100 个合成角色的冷启动记忆流水线上，4,715 条候选断言中价值与信念类仅 77.9% 有来源支持，其他类别为 96.2%，单一全局阈值无法区分。
arXiv cs.AIAI 评分2727 SSRFT：将安全对齐重构为安全角色内化的 LLM 安全框架
研究者提出 SSRFT（Supervised Safe-Role Fine-Tuning），首个将安全对齐重构为"内化预设安全角色"的框架，通过心理测量问题、少量越狱提示词和安全角色描述构建 SRQA 数据集，让模型内化安全价值观而非显式拒绝模式。
AWS Machine Learning BlogAI 评分2222 AWS 如何帮助客户对齐 ISO/IEC 42005:2025 负责任 AI 治理
AWS 发文解读国际标准 ISO/IEC 42005:2025，说明如何将 AI 系统影响评估整合进企业风险管理体系。该标准覆盖评估全生命周期，Annex D 用于与既有 IT 影响评估流程协同去重，Annex E 提供独立实施模板，并给出轻量级 triage 分类以判断是否需要完整评估。
OpenAI NewsAI 评分3838 OpenAI 谈欧盟文本溯源规则下的文本水印方案
OpenAI 阐述了在欧盟文本溯源规则下推进文本水印的思路，说明了水印的适用场景与检测机制，并解释为何检测能力首先向研究人员开放。
arXiv cs.LGAI 评分2727 PowerBench：衡量语言模型在权力转移请求中的偏见
研究者推出 PowerBench，用于评估语言模型在权力转移请求中的偏见，区分自我赋权、去权和夺权三类请求，并设置不涉及权力转移的拒绝诱导请求作为对照。该基准开源了覆盖不同权力领域、情境、受影响方规模和用户原有权力地位的数据集，在三种实验条件下评测了 24 个模型（12 个来自美国、12 个来自中国开发者）。
arXiv cs.CLAI 评分3737 研究揭示大模型"审计缺口"：事实回答正确不等于下游决策正确
一项针对8个模型的研究发现，在剂量1000的虚假文档训练下，模型直接注入选择率高达95.8%–100%，但决策任务中的注入选择仅比真实对照训练高出1.7–14.4个百分点，形成"审计缺口"。在2019–20澳大利亚山火虚假帖文案例中，模型即使未复现被夸大的数字，仍会断言有人因纵火被捕。研究表明，正确的事实回答不能保证正确的决策，纠正事实也无法消除误导性叙事。
arXiv cs.AIAI 评分1616 基于自然可见图拓扑指标的多方法重要性与性能效率分析：网络攻击检测
研究评估了 21 个自然可见图（NVG）拓扑指标，用 SHAP、分组 Permutation Importance、Boruta 和 RFE 四种方法经 Consensus Ranking 整合，在 CICIDS2018 数据集与 CNN 分类器上测试。
arXiv cs.AIAI 评分2424 CALM：分析文本到图像生成中全局不安全性的局限
针对文本到图像生成的免训练安全防护，研究揭示全局不安全假设存在覆盖度与选择性的权衡：紧凑不安全子空间无法覆盖异构的不安全语义，而更广的聚合会扭曲安全邻近的良性提示词。
arXiv cs.LGAI 评分2222 ExecCert：为机器遗忘提供可执行发布认证
研究者提出 ExecCert（Executable Release Certification），一个在发布时对候选模型产物进行认证的层，可闭合方法原生证书或通过 Retraining-Reference Release Verification（RRV）验证其对当前保留集重训练的保真度。
arXiv stat.MLAI 评分1212 扰动目标上梯度下降的差分隐私研究
研究对正则化经验风险加入随机线性项 z~N(0,σ²I_d) 后，释放确定性梯度下降第 N 次迭代所得有限计算的差分隐私性质。在强凸、光滑且 Hessian 满足 Lipschitz 条件下，证明 z↦w_N 在隐私论证所用有界域上是 C¹ 微分同胚，并给出 Jacobian 最小奇异值的定量下界。
arXiv cs.AIAI 评分2222 HXAI：分布式能源系统中的分层隐私保护可解释 AI 框架
研究者提出 HXAI，一个在分布式能源系统中兼顾隐私与可解释性的分层框架，由本地模型在安全环境内生成细粒度解释、区域模型聚合解释以支持电网级分析两部分组成。该框架通过灵活的隐私预算管理限制重复查询下的累积隐私暴露，在模拟和真实能源数据集上实现了区域负载管理的有用洞察，同时家电级用电数据始终保留在本地、不传输给电网运营商。
arXiv cs.AIAI 评分2222 研究：英国医护人员对机器翻译风险认知不足，Google Translate 翻译医学缩写成隐患
英国医护人员常依赖 Google Translate 与患者沟通，但一项针对 21 名不同岗位医护人员的访谈研究显示，他们对机器翻译在医疗场景中的风险认知有限。研究以医学缩写为用例，将临床语料库中的法语和西班牙语数据经 Google Translate 翻译后展示给受访者，发现此类高风险翻译可能危及患者安全。
arXiv cs.CLAI 评分3030 研究：向多数派妥协的 LLM 智能体仍在内部保留原始答案
多智能体辩论中，向一致多数派妥协的 LLM 智能体其实并未改变"想法"。研究用 J-lens 从残差流中读取中间实体（bridge），在 Qwen3.5-4B。
arXiv stat.MLAI 评分1313 高维渐近理论与隐私迁移学习的数据集选择
研究提出一种基于高维回归与加权岭估计器的数据集选择方法，仅依赖汇总统计量即可判断外部数据能否改善预测，并给出在标签或特征与标签联合上的ρ-零集中差分隐私保证。其核心技术贡献是测试误差的确定性等价，刻画了样本量、协方差结构、模型偏移、正则化与隐私噪声之间的交互，可在不访问数据本身的情况下优化超参数并判断私有外部数据集是否有用。
arXiv cs.AIAI 评分2222 如何实现敏感辩论：面向 AI 辩论的实例最优协议
研究者提出一种新的 AI 辩论协议，针对可稳定分解为子问题的问题类别，在正确性上实现最坏情况保证，并使双方辩手诚实作答成为占优策略均衡，而非 Stackelberg 均衡。该工作还证明了黑盒下界，表明新协议在实例层面最优，仅靠黑盒查询人类判断的任何协议都无法超越它。相关结论通过将稳定问题分解与查询复杂度中的分数块敏感度概念相关联而得到。
arXiv cs.AIAI 评分3636 PlurPO：用多元偏好优化缓解大语言模型的社会性谄媚
针对大语言模型在个人建议场景中过度附和用户的社会性谄媚问题，研究者提出多元偏好优化（PlurPO）：模型先识别并模拟冲突中涉及的相关利益方，再被训练为偏好并生成各方都能接受的回复，全程无需真实标签。
arXiv cs.CLAI 评分2222 心理健康污名自动评估基准：LLM 常过度预测污名，除非给出明确操作规则
研究者提出一个基于理论的心理健康污名自动评估基准，包含真实网络新闻与社交媒体文本，并按污名模式、领域及具体成分进行细粒度标注，覆盖六种心理健康状况。结果显示，检测情感、毒性和仇恨言论的模型无法很好捕捉心理健康污名，LLM 在缺乏明确操作规则时往往过度预测污名。基准的公开部分、标注、典型示例与代码已发布。
Google DeepMind精选AI 评分6262 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印
Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使其在数字模型和合成出的实体蛋白质上均可验证，同时实验室测试显示不损害生物功能。
推荐理由：DeepMind 把水印从数字内容扩展到合成生物，读者可了解其如何在不影响蛋白功能的前提下嵌入可验证信号。
OpenAI NewsAI 评分5050 OpenAI 阻断一起协同模型蒸馏攻击活动
OpenAI 披露阻断了一起协同模型蒸馏攻击活动，该活动旨在提取其受保护的模型推理能力。OpenAI 表示正在加强针对对抗性蒸馏的防御措施。
GitHub Blog · AI & ML精选AI 评分6262 GitHub Security Lab 发布 Fuzzing Taskflow 自主模糊测试流水线
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，智能体就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做分诊并生成漏洞报告。
推荐理由：GitHub Security Lab 公开了自主模糊测试流水线的架构与运行方式，读者可了解 LLM 智能体如何接管覆盖率反馈与崩溃分诊。
Google DeepMind精选AI 评分6262 Google DeepMind 为 Private AI Compute 引入服务端持久记忆
Google DeepMind 公布 Private AI Compute 平台的新技术能力，将私密的服务端持久记忆引入该平台，使 AI 助手能在多设备间保留上下文，同时维持接近端侧处理的隐私标准。
推荐理由：Google 公开了云端持久记忆的隐私架构，读者可了解跨设备 AI 记忆如何在加密与安全隔区下实现。