CGTR教师刷新门控方法提出

Haowei Guo等作者提出 Consolidation-Gated Teacher Refresh（CGTR）方法，用于在线策略蒸馏中决定教师何时更新。该方法保留教师更新之间的隔离期，并将每次刷新门控在奖励提升与长度尾部安全的联合证据上，使教师更新依据学生的真实巩固情况而非时钟信号。 在 Qwen3-8B 上的受控调度扫描显示，教师更新之间的完全冻结（隔离期）才是稳定学习的关键结构属性，而非教师年龄。研究还提出时序 KL 结构、刷新冲击与长度尾部风险诊断框架，并指出“状态无视崩溃”：短视界最优的固定调度在长视界训练中会因时钟驱动的刷新，把瞬时漂移的学生一次性复制进教师而灾难性失败。 作者称，在单一共享参数集、无需按数据集调参的情况下，CGTR 在 Chemistry、Biology、Physics、ToolUse 四个任务上均实现零崩溃并取得最佳最终得分，且能按各任务的学习动态自行调节刷新频率。

AI 根据报道生成 · 4 小时前更新