跳到正文
今天10月7日周三1240 条
  1. arXiv cs.CL24

    用自动化提问补齐门诊临床文档缺口:LLM 能否接管 DAU 查询闭环

    研究提出 DAU(Draft、Ask、Update)流程,检验 LLM 能否自动完成临床文档专员向医生发起的澄清提问闭环。团队审计 3000 次真实就诊、分析 2.1 万轮真实对话澄清轮次,并基于公开数据构建五个转录降级基准;发现有用提问的预测因子因任务而异,约 9% 的轮次反而损害性能,多由冗余提问和仍触发改写的非回答造成。

  2. arXiv cs.LG32

    语言模型能从测试时计算中获得多少收益?SELF-POT 基准给出量化答案

    研究者提出 SELF-POT 基准与评估框架,在竞赛数学、竞技编程和智能体工作流中衡量模型的测试时潜力,并按美元计费所有模型调用(含选择与评判)。在 350 个密封任务、五个低成本推理模型上,以 Claude Opus 5.5 Direct 为参照,收益取决于领域、选择规则与失败处理。

  3. arXiv cs.CL30

    Kurate:可扩展的科学质量分析系统

    研究团队推出 Kurate,利用 LLM 评估已发表研究的质量,并结合论文及其试验注册、研究方案等相关文档,将每项判断链接到对应原文段落。该系统对 4,347 篇论文(其中 3,913 篇为随机试验)按统计功效、因果识别、预注册等 8 个维度打分,发现统计功效、选择性报告和分析预注册问题最为常见。

  4. arXiv cs.LG17

    对抗性线性 CMDP 的速率最优算法

    针对损失与约束函数随回合对抗变化、转移未知的片段式对抗线性 CMDP,新提出的 primal-dual 算法将 regret 与累积约束违反从 \widetilde{\mathcal{O}}(K^{3/4}) 降至 \widetilde{\mathcal{O}}(\sqrt{K}),且无需 Slater 条件。

  5. arXiv cs.LG22

    奖励即观测:学习基于奖励的策略以实现快速适应

    研究者提出一种仅以奖励和动作为条件的奖励策略,可在观测空间完全不同的源环境与目标环境之间实现零样本迁移。该策略在 Pointmass、Cartpole 和 2D Car Racing 三个环境中训练后,可零样本迁移到不同配色、3D 渲染以及 Habitat-Sim 中的 Stretch 机器人导航任务。基于奖励的策略还能进一步引导目标环境中基于观测的策略训练。

  6. arXiv cs.CL29

    如何从模型内部识别真实内省:LLM 自我报告的机制特征研究

    研究者用低秩适配器训练模型按隐含线性偏好函数为虚构角色做决策,发现持续微调能让模型在无显式自我报告监督下准确报告自身学到的偏好。权重消融与冻结层实验显示偏好表征随训练前移至更早层,而 attribution patching 发现忠实模型的决策与自我报告任务间归因相似度显著更高,可作为区分忠实与不忠实自我报告的机制特征。

  7. arXiv cs.CL22

    JudgeMoE:面向 LLM-as-a-Judge 的分布聚合方法

    JudgeMoE 是一种轻量聚合器,对缓存的 judge 分数分布分配样本级权重并在计算最终分数前融合。在原始 10-cell 基准上,其平均 Spearman 相比 uniform log pooling 提升 +0.079;在 16 个 cell 上相比最强单一 judge 平均提升 +0.0393,12/16 个 cell 为正,单侧 Wilcoxon 符号秩检验 p=0.0091。

  8. arXiv cs.CL29

    Turnslide:用有限状态机实现可扩展多轮数据合成

    Turnslide 是一个全自动轻量级多轮工具调用数据合成框架,将每个 API 建模为有限状态机,用单次 LLM 调用把状态合法的工具序列翻译成完整训练样本。在 SLM 微调实验中,其生成轨迹的下游完整准确率达 70.7%,高于对比方法的 63.4% 和 53.7%,且 token 用量减少 3.6-6.6 倍。该工作已被 NeurIPS 2026 SLM-Agents Workshop 接收。

  9. arXiv cs.CL24

    EMODE:面向情感感知语音语言建模的动态副语义专家

    EMODE 是一个情感感知语音语言模型,核心是动态副语义专家(DPSE),将连续语音特征拆分为语义与副语言两条路径并动态路由、融合后再接入语言模型。它采用语义预热、副语言激活、联合精调三阶段课程训练,配合 OEG、SAA 与 GDR 引导。在 SER 测试、共情回复评测及新建双语 MEPA 基准上,EMODE 改善了词汇保真与情感敏感度的平衡。

  10. arXiv cs.CL22

    用条件锚定蒸馏稳定语言模型持续学习

    研究提出条件锚定生成蒸馏(CAGD),保留少量旧提示词,用冻结的旧模型重建补全与生成状态,并在学习新任务时匹配其预测分布。在 219M 掩码扩散语言模型的持续适配中,CAGD 将四任务最终留出损失从 2.927 降至 1.114,反向任务顺序下从 2.168 降至 0.891。在教师生成支持相同的情况下,软目标比硬回放的平均损失低 0.055。

  11. arXiv cs.CL24

    NavTree:无需 LLM 摘要的树导航,长文档 QA 的匹配成本分层检索研究

    NavTree 是一种仅用叶节点的检索器,在 chunk 上构建确定性平衡线段树,索引阶段零 LLM 调用,仅将树作为导航骨架,通过词法与稠密混合的前沿游走从根节点下行并只向阅读器输出叶 chunk。在匹配成本评估中,它是所评测网格里最强的分层检索器,并与最强扁平基线持平;在长文档多跳 QA 上,它是唯一在类对类比较中显著优于 BM25 的分层方法。

  12. arXiv cs.CL22

    语言模型潜在结构的因果影响力由什么决定:容量、响应性与对齐

    研究将语言模型激活空间中潜在结构的因果影响力拆解为容量、响应性与对齐三个因素,在4个LM家族和50个概念上验证三者需同时较高才有效。容量或响应性偏低分别使因果效果下降84%和95%,对齐偏低甚至会逆转效果、抑制概念表达。基于此提出的因果探针将跨模型引导效果提升17%-118%,概念检测仅下降3%。

  13. arXiv cs.LG20

    面向气候模型温度强迫效应的分层因果表征学习

    研究者提出一种分层因果表征学习框架,应用于先进全球气候模型的海表温度场,首次同时显式建模内部气候变率引发的大气动力相互作用与温室气体、气溶胶浓度变化带来的强迫响应。在未见过的未来气候情景上评估时,该方法能准确预测长期全球平均及区域温度演变,并对温室气体和气溶胶浓度扰动给出物理上合理的响应。

  14. arXiv cs.LG22

    TabPFN-TS 与 Chronos-2 零样本热负荷预测在区域供热网络中的系统评估

    研究系统评估了 TabPFN-TS 和 Chronos-2 在德国两个区域供热网络中的零样本概率热负荷预测表现,并与训练基线对比。全年基准中两个时序基础模型在确定性精度上均优于所有训练基线,Chronos-2 在主数据集上取得最佳 CVRMSE 12.48%,TabPFN-TS 为 13.07%。采用 12 周滚动上下文与环境温度的每小时 24 小时预测即可,更长上下文窗口未提升精度。

  15. arXiv cs.LG23

    大语言模型强化学习置信度校准中奖励函数的有效性研究

    研究探讨用强化学习训练大语言模型同时提升推理准确率并输出置信度时,奖励函数设计不当会诱发"置信度奖励黑客"现象,即模型为让置信度显得校准而故意答错。作者提出"不可黑客攻击的置信度奖励方案"概念及构造方法,并证明可攻击方案在实际数据集上会出现选择性奖励黑客,而不可攻击方案能抵抗该问题。实验还表明不同方案在过度自信—信心不足谱系上呈现相应的校准偏差。

  16. arXiv cs.LG29

    稀疏自编码器(SAE)能学到有意义的概念层级吗?

    研究针对稀疏自编码器(SAE)的无监督概念发现,提出了一套面向泛化/特化层级的关键要求与具体评估协议。在视觉数据上训练的现有 SAE 方法显示,特征空间虽普遍具备合理层级的基础,但建立良好层级结构仍具挑战。特征吸收(包括硬形式和连续的软形式)会系统性损害层级质量,揭示出未来方法需应对的根本性张力。

  17. arXiv cs.LG22

    为解释算法连接真实世界:Explanation Cards 的提出

    针对算法解释常需专业知识才能正确理解、且主流解释算法对复杂决策函数信息量不足的问题,研究者提出 Explanation Cards for Explanation Algorithms,在标准解释上补充鲁棒性与有效性信息及明确的解读说明。以反事实解释和 SHAP 为例,该卡片将解读责任从用户转移给提供方,并被认为可用于落实 EU AI Act 的可解释性条款。

  18. arXiv cs.LG17

    基于代理的机器遗忘的行为保证

    该论文提出一个统一框架,将近期基于代理的机器遗忘方法推广,并证明遗忘后模型行为与保留数据理想后验分布之间的 KL 散度上界。方法将近似遗忘建模为约束优化问题,通过后验数据分布的代理引入缩放遗忘信号,必要时以目标模型为教师蒸馏权重更新。在两个遗忘场景实验中,该方法得到的分类器最接近从头重训的模型。

  19. arXiv cs.LG22

    MSPR:面向目标条件强化学习的多尺度预测表征

    针对离线目标条件强化学习(GCRL)在稀疏奖励下编码器易学到与目标无关特征、导致策略学习不稳定的问题,研究者提出 MSPR 框架,通过多尺度预测监督在隐空间中强化目标导向对齐。该方法在视觉与状态任务上均取得强劲表现,并在具有挑战性的真实数据条件下保持 SOTA 性能。