跳到正文
arXiv cs.AI· Yuelin Hu, Wei Liu, Zhenbo Yu, Zhengxue Cheng, Li Song·· 9 小时前AI 评分27

GAC:面向混合 SFT-RL 后训练的噪声感知自适应混合方法

GAC: Noise-Aware Adaptive Mixing for Hybrid SFT-RL Post-Training

AI 导读

研究者提出噪声感知自适应控制器 GAC,通过最小化混合随机梯度的 MSE 上界推导出闭式混合权重 mu*,在 CHORD 的 token 级重加权基础上加入 EMA 平滑、调度先验和更新上限,所有统计量在线估计。

来源:arXiv cs.AI · arxiv.org