研究者提出链式LMO框架与TensorChain优化器
热点事件持续更新
研究者提出链式LMO框架与TensorChain优化器
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Sungyoon Kim等研究者提出链式线性最小化预言机(chained LMOs)框架,把 Muon 等由多个矩阵归一化组合而成的优化器统一表示为 LMO 的组合形式。 该框架同时指出,许多链式方法超出标准 LMO 框架,在光滑凸目标上可能发散。 基于该框架,研究者提出 TensorChain 优化器,并称其在 Qwen3 预训练中比 Muon 节省 9.6% token。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 12:00
用链式 LMO 优化大语言模型:TensorChain 在 Qwen3 预训练中比 Muon 省 9.6% token报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv cs.LG用链式 LMO 优化大语言模型:TensorChain 在 Qwen3 预训练中比 Muon 省 9.6% token
研究者提出链式线性最小化预言机(chained LMOs)框架,将 Muon 等由多个矩阵归一化组合而成的优化器统一为 LMO 的组合形式,并指出许多链式方法超出标准 LMO 框架、在光滑凸目标上可能发散。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。