跳到正文
arXiv cs.LG· Minyoung Choi, Dalta Imam Maulana, Wanyeong Jung·· 6 小时前AI 评分25

轻量通用学习型优化器:通过梯度历史重组实现

Lightweight and Versatile Learned Optimization by Recombination of Gradient History

AI 导读

一种轻量通用学习型优化器通过动态重组梯度历史(以不重叠时间跨度的均值表示)来工作,将预测空间缩减为每个梯度均值一个标量系数并由多参数共享。

来源:arXiv cs.LG · arxiv.org