arXiv cs.AI· Yuelin Hu, Wei Liu, Zhenbo Yu, Zhengxue Cheng, Li Song·· 9 小时前AI 评分27
GAC:面向混合 SFT-RL 后训练的噪声感知自适应混合方法
GAC: Noise-Aware Adaptive Mixing for Hybrid SFT-RL Post-Training
AI 导读
研究者提出噪声感知自适应控制器 GAC,通过最小化混合随机梯度的 MSE 上界推导出闭式混合权重 mu*,在 CHORD 的 token 级重加权基础上加入 EMA 平滑、调度先验和更新上限,所有统计量在线估计。
来源:arXiv cs.AI · arxiv.org