跳到正文
今天10月7日周三563 条
  1. arXiv cs.LG23

    TIDAL-Net:面向物理神经网络的时间复用层复用架构

    针对物理神经网络(PNN)权重调整缓慢的瓶颈,研究者提出 TIDAL-Net,利用 PNN 中快速前向动态与缓慢可训练权重之间的时间尺度分离,通过逐层时间复用提升有效深度并控制实现成本。在图像分类和自然语言处理任务上的数值实验显示,仅需对常规 PNN 做少量修改即可提升性能。

  2. arXiv cs.LG24

    H-CDLM:面向语言建模的层级表示联合连续扩散框架

    研究者提出层级连续扩散语言模型 H-CDLM,通过并行扩散 token 及其聚类得到的粗粒度语义表示,以极小的算力与参数开销提升连续扩散语言模型。应用于 CoBit 得到 H-CoBit,在 LM1B 上生成困惑度 49.4、OWT 上 50.4,较基线分别改善 24.2 和 20.7 点,GSM8K 准确率达 27.4%。该框架同样适用于流匹配模型 FLM,代码将公开。

  3. arXiv cs.LG36

    语言模型微调中的伪遗忘机制:遗忘为何不总是灾难性的

    语言模型微调时看似遗忘的知识往往仍被存储且可恢复,这种现象被称为伪遗忘。研究通过一个最小联想记忆模型复现了该动态:共享结构的键、集中的新值和网络归一化三者共同作用,微调将所有旧表示沿同一方向移动,暂时隐藏旧事实但保留其相对几何结构;归一化在新事实学会后撤回这一偏移,而事实特异性变化则持续累积并导致侵蚀。

  4. arXiv cs.LG18

    通过路径-流对齐实现路径与流的协同演化

    研究提出路径-流对齐作为 flow matching 的统一训练目标,联合训练保端点的路径网络与流网络,使流匹配路径速度、路径对齐当前流。作者发现路径过拟合:对齐损失下降但样本质量变差,与概率路径中的低熵瓶颈有关。为此引入随机路径正则化器,隐藏部分源信息并保持端点精确,在 ImageNet-256x256 与 SiT 骨干上跨模型规模持续改善 FID。

  5. arXiv cs.LG17

    多模态几何表示中的方向依赖响应:超越扰动幅度

    研究发现多模态几何对齐分数对模态退化的响应并非由扰动幅度主导,位移幅度最多只能解释15%的样本外方差。基于Gram行列式的闭式一阶展开,作者提出方向性几何响应(DGR),在MSR-VTT(N=878)和DiDeMo(N=980)上取得0.838-0.969的样本外R²和0.864-0.963的匹配幅度排序准确率。DGR依赖已观测的退化状态位移,属于解释性量而非部署时预测器。

  6. arXiv cs.LG22

    grappa-fullFF:从第一性原理一致学习分子力学力场

    研究者提出 grappa-fullFF,一种从 ab initio 参考数据中一致且同时学习键合与非键合参数的统一方法,无需外部指定的非键合参数。该模型通过静电梯度监督引入物理正则化,并采用利于电荷平衡的架构,恢复了准确的电响应性质,在几何优化基准上达到 SOTA 精度,并复现了经典力场与现有机器学习力场的构象采样。

  7. arXiv cs.LG12

    Learned AMDI:用强化学习策略替代固定选择器的自适应多分辨率扩散成像

    Learned AMDI 保留 AMDI 固定树传播器与层级约束,用 proximal policy optimization 训练的共享局部策略替换传播后选择器。在九个留出案例中,它执行 393 次细化,将平均终端参考差异从 0.17496 降至 0.13657,占用率从 0.13737 升至 0.26660。该共享 actor 无需重训练即可迁移到 64×64 和 128×128 图像。

  8. arXiv cs.LG21

    Scen-Opt:面向数据驱动凸规划的场景优化工具箱

    Scen-Opt 是一个开源 Python 工具箱,将凸规划与数据样本结合,并提供基于场景理论的统计保证,支持数据驱动的线性、二次与半定规划。它提供基于 Python 的 Web 应用和图形界面,可在线使用或本地安装,支持 CSV、JSON、TXT、TSV、MAT、Excel、NPY、NPZ、Parquet 等文件上传。该工具在多个代表性基准上验证了其数据驱动凸优化的实际效果。

  9. arXiv cs.LG12

    CHARTER:计算病理学分层紧凑证据评估中的参考替换审计

    针对数字病理学中分层紧凑证据流程因候选过滤引入策略相关预测、导致评估参考偏移的问题,研究者提出 CHARTER 参考感知评估规范,要求声明预期目标与参考、量化候选引发的预测偏移并审计比较结论的稳定性。在五种子 Random-K 审计的 15 组比较中,4 组出现确定性反转;匹配的原生排序压力测试中,ACMIL 比较从 REVERSED 变为 PRESERVED。

  10. arXiv cs.LG22

    预测精度不等于交易利润:神经进化小型循环网络用于股票收益预测

    研究对比线性、固定循环、Transformer 与混合架构和神经进化搜索出的循环网络,在四个中盘股组合、三个交易年度上评估预测精度与日度多空策略净收益。进化网络在预测精度和净交易表现上均排第一,而精度第二的模型在建仓并计入成本后亏损;其优势来自周期匹配,rank IC 从 1 日到 10 日评分周期上升,而所有超过 300 参数的模型均下降。

  11. arXiv cs.LG17

    共模误差限制低时间步深度脉冲Q网络,CMC-DSQN 提出补偿方案

    研究发现低时间步深度脉冲Q网络(DSQN)的性能退化主要源于动作价值间共享的共模误差,这类误差会通过自举目标损害时序差分学习。为此提出的 CMC-DSQN 用辅助 ANN 补偿 SNN 输出的共模误差,推理时可直接从 SNN 输出做贪心动作选择并完全移除辅助 ANN,保持 SNN 能效。

  12. arXiv cs.LG22

    MITNN:数学不变量驱动的拓扑神经网络用于分子与材料性质预测

    研究者提出数学不变量驱动的拓扑神经网络(MITNNs),通过融合拓扑、谱理论、交换代数、微分几何与离散曲率的多尺度不变量,结合拓扑神经架构表示复杂三维结构。在蛋白质-配体结合、金属有机框架性质、突变诱导的蛋白质溶解度及分子毒性预测任务中,MITNN 持续优于现有方法,且特定数学表示与神经架构的配对组合优于单一模型及全部组件聚合。

  13. arXiv cs.LG22

    液压起重机原木堆清理:从点云学习抓取目标定位

    研究提出一种从无分割点云中学习抓取目标定位的策略,部署在拖车式液压林业起重机上,由同一网络支持行为克隆(BC)与强化学习(RL)。仿真中 BC 可清理 100 堆 200 根原木中的 98 堆,BC→RL 提升负载稳定性。12 次现场试验中,BC 与 BC→RL 分别完成 93.8% 和 88.9% 的库存堆放,高于几何启发式的 80.4%。

  14. arXiv cs.LG31

    MobileVISTA:面向移动操作姿态泛化的生成式数据增强框架

    MobileVISTA 是一种数据生成框架,通过联合增强自我中心视觉观测并重定向动作以补偿基座姿态变化,将标准姿态下的演示转化为多样化的姿态扰动训练数据。该框架针对相机随运动链移动且机器人占据大部分画面的自我中心平台(如人形机器人),在仿真任务和真实 Galaxea R1 Pro 上验证,无需额外采集演示或训练生成模型即可提升策略对分布外姿态的鲁棒性,且在人形机器人上收益最大。

  15. arXiv cs.LG15

    虚拟现实平衡任务中,伪迹去除改善皮肤电波形却未提升下游分类

    一项 VR 平衡干扰任务研究发现,伪迹去除虽能改善皮肤电活动(EDA)波形,却无法提升下游分类性能。基于专家校正 EDA 训练的残差门控网络在基准集上中位 AUROC 达 0.94,伪迹区域误差降低 17.8%,但迁移到 VR 录制数据后,五种已发表时间序列方法的平衡准确率变化仅为 -1.35 至 +0.93 个百分点,无一提升且两种下降。

  16. arXiv cs.LG17

    SICO:单循环恒定批量的一阶惩罚方法求解随机双层优化

    研究者提出随机单循环恒定批量一阶惩罚方法 SICO,用于求解随机非凸-强凸双层优化问题。该方法每次迭代仅需 O(1) 个随机梯度样本,在无偏有界方差假设下达到 O(ε⁻⁶) 样本复杂度,在额外均方光滑假设下提升至 O(ε⁻⁴)。这是首个以单循环和恒定批量匹配全一阶 SBO 方法已知最优收敛速率的工作。

  17. arXiv cs.LG22

    HCMAN:融合乳腺钼靶与临床数据的混合跨模态注意力网络,用于低资源地区早期乳腺癌检测

    混合跨模态注意力网络(HCMAN)通过 Transformer 跨模态注意力机制融合乳腺钼靶图像与结构化临床数据,在埃塞俄比亚四家转诊医院 1,024 名患者的 2,560 张钼靶图像上实现 97.8% 准确率、97.2% 敏感度、98.3% 特异度和 0.987 的 AUC,显著优于纯图像基线。

  18. arXiv cs.LG12

    量子变分自编码器(QVAE)如何学习解耦表征

    研究探讨了量子变分自编码器(QVAE)能否学习解耦且可解释的潜在因子,并厘清了单个量子潜在维度的定义。在包括 MNIST 变体在内的三个数据集上,QVAE 能够发现因子化且语义可解释的潜在表征,单个量子比特可作为有意义的潜在因子。该结果为理解量子潜在空间及其结构化表征学习潜力奠定了基础。

  19. arXiv cs.LG18

    ImpactMat:面向逆向撞击声渲染的连续材质估计数据集与基准

    ImpactMat 是面向逆向撞击声渲染的数据集与基准,提供单一及混合材质的撞击声样本并配对真实材质参数,同时提出一个前馈模型,可从一段或多段录音中预测材质参数,并利用混合材质学习材质类型间的平滑过渡。实验显示该方法优于竞争基线,无需人工调参即可从真实录音重新渲染撞击声。

  20. arXiv cs.LG22

    OCBench:可复现行为克隆谜题的机器人操作基准

    研究者提出 OCBench,一个带可控脚本策略的机器人操作基准,其脚本策略具备与人类演示相似的关键特性,从而在受控环境中复现了行为克隆的多种反常现象,例如模型对数据过拟合越严重性能反而持续提升、无动作分块的完全闭环策略往往彻底失败。OCBench 依托 GPU 加速环境和脚本策略,可对以往报道的 BC 相关现象展开分析并证伪多种假设。

  21. arXiv cs.LG22

    FactorBench:面向组合的自动化因子挖掘基准

    FactorBench 是一个面向组合的自动化因子挖掘基准,对比了 9 种自动化挖掘方法在 5 个股票市场上挖掘的约 5000 个因子。该基准从因子有效性、时序泛化性、风险与风格暴露后的预测能力,以及方法内与方法间因子池的差异性(含与 Alpha101 的相似度)三个层面追踪挖掘系统输出,并评估复合信号质量与计入成本后的多头及多空组合表现。结果显示,没有任何一种范式能持续占优。

  22. arXiv cs.LG12

    稀疏 Lévy 图上的非局部哈密顿动力学:谱分析与多模态采样

    研究者提出一种稀疏图方法,通过阻尼非局部哈密顿动力学将概率质量输运至多模态目标分布,结合对数均值迁移率与对称 Lévy 型交互权重,并用最近邻连接加采样长程边实现空间分离区域间的直接质量交换。图构建完成后密度演化是确定性的,每次更新成本与节点数及长程采样预算成线性关系。合成多模态分布实验显示,相比一阶与 MCMC 基线,该方法模态平衡更好、模态覆盖更稳定。

  23. arXiv cs.LG22

    SynEval:面向多表合成数据生成的六维评估框架

    研究者提出 SynEval,一个面向多表(关系型)合成数据库的六维评估框架,联合评估逐列保真度、多变量结构保持(含条件分布检查 P(Y|X))、跨表完整性、ML 效用、隐私保护与边缘情况鲁棒性。该框架输出统一的加权质量分,支持按表和按维度下钻,且与生成器无关,可对任意真实与合成 CSV 文件夹自动推断 schema 并运行。

  24. arXiv cs.LG17

    在线逆优化实现最优遗憾与多项式时间:确定性算法回答 Sakaue 开放问题

    针对在线逆线性优化,研究者提出一种确定性算法,在任意时间跨度 T 下取得 O(√d) 的最优遗憾,且运行时间为 d 和 T 的多项式级。此前 Sakaue 用随机算法达到该最优遗憾,但每轮需 (dT)^{O(d)} 次线性优化,并公开询问能否在多项式时间内实现。新算法是 Sakaue 等人与 Cai 等人变尺度算法的变体,当查询点远离更新位置时撤销度量更新。