跳到正文
10月7日周三
  1. arXiv cs.AI22

    MemFLoRA:面向边缘端 CNN 适配的内存下限 LoRA

    MemFLoRA 是一种面向 CNN 边缘适配的低秩适配器,采用内存优先设计而非直接套用面向 Transformer 的 LoRA。它冻结下投影、训练尺度匹配的上投影,并将保存状态压缩到低秩分支,在三个 HAR 数据集和两个 CNN 骨干上,相比全量微调减少 98.5-98.7% 的激活内存和 94.9-97.3% 的峰值训练状态内存,同时匹配或超过 CNN PEFT 基线。

  2. arXiv cs.AI20

    Selective-RL:选择性迁移 RL 更新实现视觉推理能力跨模型迁移

    研究者提出 Selective-RL,通过隔离强化学习阶段的参数更新、保留其主导矩阵方向并保持幅度,将其迁移至 VLM 的语言模块。在三个模型家族、五个视觉推理基准上,该方法在 15 项对比中有 12 项优于完整更新插值,其中 Qwen 接收模型的 MathVision 提升 8.55 个百分点。对照实验显示,仅靠更新幅度或任意低秩无法复现该增益。

  3. arXiv cs.AI10

    Adam 优化器共享记忆参数 β 的早期选择方法

    研究者提出一种从短程试点训练中选择 Adam 共享记忆参数 β₁=β₂=β 的方法,选定后在全量训练中保持固定。该方法基于 Adam 归一化方向的局部模型,在采样波动与梯度平均延迟之间取得平衡,导出三次记忆规则,其系数由少量试点检查点的梯度探测估计。

  4. arXiv cs.AI22

    学习方式如何决定遗忘效果:从记忆到泛化的连续谱研究

    研究揭示模型的学习方式会显著影响其后续的遗忘(unlearning)表现:以泛化为主的模型在遗忘时对保留集的性能损伤更大。作者通过模块加法中的 grokking 现象区分记忆型与泛化型模型,并引入分桶模块加法在记忆-泛化连续谱上精细控制两种策略的贡献,发现该趋势近乎单调。这一关系在 LLM 的逐字回忆与事实回忆遗忘场景中同样成立。

  5. arXiv cs.AI21

    DeltaTTT:面向非线性循环记忆的逐层优化方法

    针对非线性记忆网络在序列测试时训练中难以单遍优化、串行 TTT 反而不如固定基座并行 TTT 的问题,研究者提出 DeltaTTT,将两层记忆网络的联合内循环优化改为逐层学习,每层分配局部预测目标并通过状态相关的 delta 规则更新。该方法保留非线性读出并支持分块并行计算,在 DeltaNet 和 LaCT 骨干上提升了语言建模与检索表现。

  6. arXiv cs.AI13

    从共享需求模式到局部不确定性:用紧凑适配混合实现概率负荷预测

    研究者提出一种可扩展的客户感知概率负荷预测框架,通过共享模型学习共性需求行为,仅适配一小组低维参数,让每个负荷按自身特征组合这些适配组件。在 SMART-DS 数据集 590 条负荷曲线上,该方法在确定性精度和概率质量上均优于统计、神经网络、Transformer 及预训练时间序列基线,同时保持较低的存储与推理成本。

  7. arXiv cs.AI24

    Atom-JEPA:面向 3D 原子系统的联合嵌入预测架构

    Atom-JEPA 是一个自监督预训练框架,通过原子级和子结构级的互补目标,从无标注 3D 结构中学习潜在表示。该模型在大规模分子与晶体数据集上预训练,经微调后在分子 ADMET 与量子化学性质预测任务上达到 SOTA,在晶体材料物理性质预测上也极具竞争力。代码与预训练模型 checkpoint 已公开。

  8. arXiv cs.AI17

    利用历史数据缓解自动驾驶远程操控 QoS 预测中的概念漂移

    针对自动驾驶远程操控的预测性 QoS(pQoS),研究者基于实测数据提出预测框架,预测上行数据速率与往返时延两项网络 KPI。该框架将历史数据纳入预测流程,以缓解概念漂移导致的机器学习模型在未见数据上的性能退化,并引入关键场景检测指标专门评估远程操控场景下的预测表现。

  9. arXiv cs.AI29

    VOMMI:面向移动操作的可携带演示采集与学习框架

    VOMMI 是一个可携带的移动操作演示采集与学习框架,通过离线轨迹重建和在线视觉-运动条件化,将便携 RGB 演示接入 VLA 后训练。其 R2-VO 用稀疏几何锚点精修轨迹,使身体与手部流的绝对轨迹误差平均降低 24.6%。仅用便携演示后训练的策略基座速度误差比机器人采集演示低 18.2%,在三项真机任务上平均成功率较 OpenPI 0.5 提升 8.3 个百分点。

  10. arXiv cs.AI19

    STRUCTURALCOST:用于建模人类句子处理难度的受控阅读时间数据集

    STRUCTURALCOST 是一个自定速阅读数据集,包含 475 名参与者和 40,800 条观测,用于分离长距离主谓依存解析的处理成本。研究发现,主句动词处的人类阅读时间随依存长度增加,由句法嵌套而非线性距离驱动;n-gram、SSM 和 Transformer 等语言模型仅部分反映这一难度曲线,且低估了人类的工作记忆整合成本,该差距在不同架构和模型规模下持续存在。

  11. arXiv cs.AI24

    基于查询的可达自车未来代价学习:超越端到端驾驶的航点回归

    研究者提出一种基于查询的代价学习框架,为动态可达的自车轨迹查询估计有界代价,而非密集 BEV 网格或少量回归轨迹。在 nuScenes 上,该方法碰撞率优于 ST-P3、NMP 及多数回归基线,L2 保持竞争力;在真实驾驶日志上无需微调即比 SparseDrive 和 Alpamayo 降低碰撞率。该工作已被 ACCV 2026 接收。

  12. arXiv cs.AI22

    针对多语言语音匿名化的声学与内容导向说话人验证攻击研究

    研究评估了声学导向与内容导向攻击者对多语言匿名语音的说话人验证(ASV)效果,发现攻击效果取决于匿名语音的语言可用性。整体上声学导向攻击者表现更好,但当语言信息保留较好时,内容导向与声学导向攻击者的性能差距会缩小。研究还构建了多语言语音转换数据集,可提升性能并部分缩小跨语言差距。

  13. arXiv cs.AI22

    SAGE:语义锚点引导的医疗问答数据合成框架

    SAGE 是一个面向医疗问答的数据合成框架,利用 MeSH 等公开分类体系作为语义锚点,让本地部署的小模型通过原子与关联合成交替迭代,从极少种子数据生成高质量医疗训练数据。在多个医疗问答基准上,用 SAGE 合成数据微调的模型持续优于自生成或传统文档式方法,且无需大量医疗文档或外部 API。代码已开源,论文被 EMNLP 2026 收录。

  14. arXiv cs.AI22

    ReGraph:双视觉通路中涌现泛化能力的计算解释

    研究者提出 ReGraph——一种带生物归纳偏置的循环双流图模型,包含视网膜驱动的分流编码、背侧到腹侧调制和动态侧向连接,在 Something-Something V2 动作基准上训练。结果显示,上下文不变编码与网格样空间基仅沿扩展背侧通路共同涌现,单流、无调制变体和标准基线中均不出现。事后分析表明这些网格样基可作为可复用的路由模板,提示泛化能力在感觉信息被分解为层级化分流时便已成形。

  15. arXiv cs.AI17

    多模态知识蒸馏用于全切片图像胃腺癌分类

    研究提出多模态知识蒸馏(MKD)框架,用低秩多模态融合(LMF)结合预训练WSI图像编码器与临床文本编码器,教师模型学习图像-文本融合表示,学生模型蒸馏后仅凭图像即可推理。在PatchGastric基准上平均准确率比SOTA至少高3.35%,且不依赖Transformer融合、多任务学习或大语言模型,源代码已开源。

  16. arXiv cs.AI26

    基于控制的动态优化实现多样化运动定制

    针对视频生成中运动定制的内容泄漏问题,研究者提出 Control-based Motion Customization(CMC)训练框架,用随机最优控制(SOC)引导生成动态朝向目标运动、避免向参考视频坍缩。该方法去除显式奖励并引入仅作用于生成早期阶段的时间步自适应运动代价,训练速度提升 2.5 倍,在缓解内容泄漏的同时保持运动保真度与基座模型的多样性。

  17. arXiv cs.AI32

    统一多模态模型的视觉弃权能力:Draw-or-Decline 基准与 VisTA 训练方法

    研究提出视觉弃权概念,即模型在请求的视觉变换不可能完成时应识别并拒绝生成。为此构建了 Draw-or-Decline 基准,包含 7 类任务的 1,050 对可行-不可行请求,评测 8 个统一多模态模型发现编辑能力与弃权能力相互独立,最强编辑器编辑准确率 68.4% 却仅拒绝 0.4% 的不可行请求。

  18. arXiv cs.AI31

    六项童年协变量胜过所有 Transformer:从 11 岁作文预测 23 岁抑郁症状

    一项基于英国出生队列 National Child Development Study 的研究发现,用 11 岁作文预测 23 岁抑郁症状时,仅依赖六项童年协变量的逻辑回归基线 AUC-ROC 达 0.737,优于所有只看作文的文本模型,包括七个微调 Transformer、词袋模型、冻结嵌入和四个零样本大语言模型,其中最佳 Transformer 仅为 0.670。