跳到正文
热点事件持续更新

研究者提出链式LMO框架与TensorChain优化器

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Sungyoon Kim等研究者提出链式线性最小化预言机(chained LMOs)框架,把 Muon 等由多个矩阵归一化组合而成的优化器统一表示为 LMO 的组合形式。 该框架同时指出,许多链式方法超出标准 LMO 框架,在光滑凸目标上可能发散。 基于该框架,研究者提出 TensorChain 优化器,并称其在 Qwen3 预训练中比 Muon 节省 9.6% token。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv cs.LG
    用链式 LMO 优化大语言模型:TensorChain 在 Qwen3 预训练中比 Muon 省 9.6% token

    研究者提出链式线性最小化预言机(chained LMOs)框架,将 Muon 等由多个矩阵归一化组合而成的优化器统一为 LMO 的组合形式,并指出许多链式方法超出标准 LMO 框架、在光滑凸目标上可能发散。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。