跳到正文
arXiv cs.LG· Haorong Han, Jidong Yuan, Chixuan Wei, Yongqi Sun·· 6 小时前AI 评分17

Pioneer Student(PiS):解耦优化的师生半监督学习新方法

Decoupled Optimization for Teacher-Student Semi-Supervised Learning via a Pioneer Student

AI 导读

针对师生半监督学习中参数耦合与梯度更新不一致两大优化问题,研究者提出 Pioneer Student(PiS)——一个在独立参数空间中运行、定期将积累知识回传给师生模型的辅助分支。实验表明 PiS 是通用的即插即用模块,可持续提升主流半监督学习方法的表现。

来源:arXiv cs.LG · arxiv.org