跳到正文
10月7日周三
  1. arXiv cs.LG20

    FreshCast:为冻结的时间序列预测模型刷新检索记忆

    FreshCast 是一个即插即用检索框架,在保持预测模型冻结的前提下,用新观测持续更新非参数记忆,并通过关系核回归生成记忆预测、在验证集上闭式校准其权重。在七个基准和十种预测架构上,FreshCast 对每个模型和输入长度都降低了平均 MSE,输入长度 96 和 720 时分别降低 14.6% 和 5.6%。

  2. arXiv cs.LG12

    TTNet:面向智能乒乓球拍球员分析的多任务深度学习模型

    TTNet 是一种结合 CNN、ResNet 与自注意力机制的多任务深度学习模型,可基于智能乒乓球拍采集的六轴传感器数据,同时预测球员性别、持拍手、球龄和技能水平四项属性。该模型采用两阶段训练策略,引入数据增强与任务专属损失函数以提升不平衡数据上的泛化能力,在 AI CUP 2025 乒乓球智能球拍数据分析竞赛官方榜单上获得第二名。

  3. arXiv cs.LG24

    αTransfer:用小模型迁移合并系数,实现高效模型合并

    模型合并需搜索最优合并系数,随模型规模和数量增长成本极高。αTransfer 发现同一模型族内不同规模模型的合并系数性能分布高度一致,可先在小代理模型上搜索系数再直接迁移到大模型。实验显示,该方法在视觉 Transformer 上提速 6 倍、内存降低 70%,在大语言模型上提速 20 倍、内存降低 85%,性能相当。

  4. arXiv cs.LG22

    通过对抗强化学习改进论辩挖掘的合成数据生成

    研究提出一种对抗强化学习框架用于论辩挖掘(AM)的合成数据生成,生成器产出结构化 AM 实例,判别器通过区分真实与合成数据提供学习信号,二者在对抗循环中联合优化。实验表明,该框架在三个基准数据集的全数据和低资源设置下均持续提升 AM 性能。该工作已被 EMNLP 2026 Findings 接收。

  5. arXiv cs.LG22

    MS-ECG-FM:用多源对比学习打造更通用的心电监测基础模型

    研究团队提出心电基础模型 MS-ECG-FM,通过对比对齐 ECG、超声心动图、放射和出院报告等多种临床记录类型进行训练,突破以往仅依赖 ECG 解读报告作为监督的局限。在扩展的 ECG 检测基准上,该模型在 ECG 可检测的全部病症范围内全面超越现有方法,在减少导联配置下同样表现优异。不同报告分别提升不同诊断领域的表征,多源对齐则捕捉其互补信息,在临床多样化任务上保持稳定强劲表现。

  6. arXiv cs.LG14

    AFA-BANDIT:预算约束下可证明近最优的在线多特征分类

    研究者将在线主动特征获取(AFA)建模为带背包的组合 Bandits(BwK)问题,在全局预算约束下同时决定特征获取与预测,并给出优于标准 BwK 的 regret 上界。为规避指数级动作空间,他们提出 LP-Chain,以随特征数线性增长的代价感知特征子集链进行搜索。在合成数据上,LP-Chain 优于基于 HEDGE 的 BwK 和深度 RL 的在线 AFA 基线,并能更好地扩展到更多特征。

  7. arXiv cs.LG17

    Hub for Outliers, Spokes for Inliers:面向双重失配半监督学习的均匀隐空间构建

    针对半监督学习中标注与未标注数据在类别分布和标签空间上双重失配的问题,研究者提出 hub-spoke 隐空间几何结构,让已知类均匀分布在中心 hub 周围并各自围绕原型形成紧凑簇,hub 同时作为高不确定性未知类样本的低证据区域锚点。该方法结合基于证据的分类器,通过结构化特征组织缓解多数类主导,提升特征判别力与不确定性分离能力。实验显示其优于现有 SOTA 方法,在不同设置下最高提升 3.25%。

  8. arXiv cs.LG22

    TAFFY:带上下文多样性的任务自适应表格基础模型

    TAFFY 是一个结合 In-Context Diversity Prior 与 Task-Conditioned Looped Transformer 的表格基础模型,通过从共享因果过程经受控干预和分布偏移生成的多个相关环境中采样来构建合成预训练上下文,并迭代地选择性应用共享 Transformer 块进行任务自适应精炼。在六个分类和五个回归基准数据集上,TAFFY 取得最低平均排名。

  9. arXiv cs.LG22

    Global Transport:面向无分类器引导流模型的全局传输耦合

    研究者提出 Global Transport(GT),一种不依赖类别标签的全局类别无关最优传输耦合,用于条件流模型的训练。GT 单独使用会因将不同条件关联到源噪声不同区域而降低性能,但与无分类器引导(CFG)结合后,在离散类别和连续文本条件的图像生成中,跨模型规模和采样预算均稳定提升生成效果。该结果表明耦合设计应在推理时的引导流下评估,可作为无需改动架构、采样器或引导机制的训练期优化手段。

  10. arXiv cs.LG22

    JEPA 世界模型如何用逆动力学保留不稳定模态

    研究指出,JEPA 世界模型仅靠下一步预测加防坍缩正则,无法保证保留可控的不稳定模态,训练损失最小化时这些模态仍可能被坍缩。为此作者在世界模型训练中加入动作重建目标(逆动力学损失),并证明精确动作重建可使编码器在有限时域可达子空间上单射。在 CartPole、Walker2D 和 PointMaze 上的实验表明,该控制感知表示学习方法在非线性视觉控制任务中同样有效。

  11. arXiv cs.LG22

    激活去噪:并行与串行 LLM 量化鲁棒性对比研究

    针对并行量化误差沿残差流累积的问题,研究者提出"激活去噪"方法,将上游误差建模为噪声,通过预处理加度量加权舍入进行正则化,在保持全并行量化的同时恢复串行量化的大部分收益,耗时仅为后者一小部分。该方法形成的深度累积平滑惩罚可抑制量化误差放大,且与量化中常用的正交旋转互补、效果叠加。

  12. arXiv cs.LG15

    通过有限深度策略敏感性适应智能体行为变化

    研究者提出一种有限深度框架,通过近似策略 Hessian 和混合导数来估计策略敏感性,从而适应其他智能体行为变化,无需大量新交互数据。该方法具有可调节的传播深度,并推导了截断误差界,深度越大误差越小,全时域传播时误差消失。在信念驱动的追逃博弈中,该方法估计精度和策略适应均优于基线,基于敏感性的初始化提升了零样本回报及后续微调效果。

  13. arXiv cs.LG22

    SemARC:通过自适应采集与序列融合实现高效多模态推理

    SemARC 将序列模态聚合器(SeMA)与自适应运行时控制器(ARC)结合,在编码器运行前就选定下一个模态,只执行被选中的编码与融合分支。在六个多模态分类数据集和十一个基线上,SemARC 平均宏 F1 提升 3.2%、总推理 GFLOPs 降低 61.4%,端到端延迟在 GPU 与 CPU 上下降 44.0%、Android INT8 上下降 47.2%。

  14. arXiv cs.LG15

    HGNAN:基于神经加性模型的可解释超图学习框架

    研究者提出超图神经加性网络(HGNAN),将经典神经加性模型扩展到高阶关系数据,通过特征级非线性分解与超图感知结构聚合,实现节点级和超边级任务的可解释预测。在基准数据集上,HGNAN 性能与当前最优超图学习方法相当,同时提供内在且有意义可解释性。

  15. arXiv cs.LG34

    Fork-and-Flush:让 Autoresearch 智能体逃离「想法盆地」

    研究发现,同一 Autoresearch 智能体在相同任务上的独立运行常停滞在分数差异明显的「想法盆地」中,即使追加大量算力差距仍持续。为此提出的 fork-and-flush 方法将智能体分叉为多条并行轨迹,各自继承累积工作区但使用全新对话上下文,运行固定时长后从得分最高的轨迹继续。

  16. arXiv cs.LG12

    StaFIR:平稳性感知因果滤波器的凸学习

    StaFIR 是一种因果有限脉冲响应滤波器,通过可学习的非负指数滞后剖面混合,以凸优化目标在经验平稳性与输入相似度之间取得平衡。在 ARFIMA–GARCH 和滚动金融序列实验中,它能随序列持续性调整滤波强度,并在平稳状态下减少不必要的变换。下游预测中其精度与固定半阶差分无明显差异,但对原始信号的相似度更高。

  17. arXiv cs.LG14

    EEG BCI 解码的标签揭示在线更新基准测试

    研究提出一个面向 EEG 脑机接口解码的在线自适应基准,在时间有序的 prequential(先测后训)评估下比较 CSP 与黎曼协方差两类流水线。在四个数据集(三个运动想象、一个运动解码)上,标签揭示的在线更新在两个最大数据流中改善了 14 个模型/数据集组合中的 13 个,相对冻结模型准确率提升最高约 18%。

  18. arXiv cs.LG22

    LSA:可学习频谱激活函数改进隐式神经表示

    研究者提出可学习频谱激活函数(LSA),用残差截断傅里叶级数替代固定的神经元级非线性,谐波幅值在训练中学习。LSA 不扩展渐近函数类,而是改变表示的因子分解方式,使线性权重选择特征、激活系数控制频谱整形,两者由独立梯度更新。在音频、图像、神经辐射场和神经声场任务上,LSA 均提升了重建质量。

  19. arXiv cs.LG12

    用表格基础模型评估主动特征获取策略

    研究提出用 prior-data fitted networks(PFN)从有限离线数据中学习和评估主动特征获取策略。作者发现,在离线数据覆盖不均衡时,以总预测熵为奖励会引入认知偏差,惩罚对稀疏观测特征的获取,因为它把认知不确定性与偶然不确定性混为一谈。

  20. arXiv cs.LG32

    研究:pass@k 无法衡量后训练后的多样性与能力保留

    一项被 NeurIPS 2026 预训练到后训练 Workshop 接收的研究指出,pass@k 只依赖问题被答对的概率,无法反映答案分布。用 GRPO 和 RFT 训练 Qwen2.5-1.5B-Instruct 后,三项多样性指标走向相反,GRPO 正确解的词法多样性低 15%,但 pass@8 和 pass@32 在 GSM8K 上无一致赢家,仅在低 k 时出现分离。

  21. arXiv cs.LG17

    Fed-BRDECS:隐私保护且异构感知的联邦深度嵌入聚类

    Fed-BRDECS 是一个隐私保护且异构感知的联邦深度嵌入聚类框架,用本地可计算的样本稳定性损失替代全局归一化聚类目标,避免传输本地软分配分布。它引入预测均衡采样和质心级重启来应对非 IID 客户端分布,在图像与文本聚类基准的 IID 和非 IID 划分下均优于代表性联邦聚类与深度聚类基线。该框架还可用于联邦时间序列异常检测,在不增加推理成本的情况下提升基于重构的检测器。

  22. arXiv cs.LG13

    多群体公平性与 Omniprediction:分离与等价关系

    研究探讨 omniprediction 是否必须依赖多群体公平性,结论是:普通 omniprediction 不需要,而 loss OI 需要。作者证明,针对 proper losses 的 omniprediction 甚至不蕴含期望准确率,从而排除了多校准或校准多准确率的弱逆命题;同时证明 loss OI 等价于一种校准多准确率。该成果已被 NeurIPS 2026 接收。

  23. arXiv cs.LG22

    ATLAS:面向潜在对抗搜索的自适应信赖域与主动学习框架

    ATLAS 是一个基于查询的黑盒对抗攻击框架,将攻击生成建模为主动学习的水平集估计问题,结合校准近似与局部-全局采样架构定位对抗区域。在 MNIST、CIFAR 和 ImageNet 上,ATLAS 生成的对抗样本比 NES、SignHunter、BayesOpt 等查询式黑盒攻击更具代表性,并能在有限查询预算下覆盖更多对抗区域。该框架可用于自动化红队测试,支持开发中的鲁棒性分析与持续审计。