arXiv cs.LG· Haiyuan Wan, Yanyi Li, Weicheng Lin, Cong Fang·· 7 小时前AI 评分24
SAZO：面向大语言模型微调的样本自适应零阶优化方法
Sample-Adaptive Zeroth-Order Post-Training
AI 导读
研究者提出样本自适应零阶优化方法 SAZO，通过从现有方向差分中提取梯度范数信息在线学习样本重要性，并自适应分配查询以加速收敛。相比 MeZO，SAZO 仅增加 O(N) 标量状态、无需额外模型评估，在四个模型族上实现更优的下游平均性能，达到相同训练损失所需查询数最多减少 6 倍。
来源：arXiv cs.LG · arxiv.org