arXiv cs.LG· Minyoung Choi, Dalta Imam Maulana, Wanyeong Jung·· 6 小时前AI 评分25
轻量通用学习型优化器:通过梯度历史重组实现
Lightweight and Versatile Learned Optimization by Recombination of Gradient History
AI 导读
一种轻量通用学习型优化器通过动态重组梯度历史(以不重叠时间跨度的均值表示)来工作,将预测空间缩减为每个梯度均值一个标量系数并由多参数共享。
来源:arXiv cs.LG · arxiv.org