arXiv stat.ML· Deborah Oliveira, Elliot Paquette·· 4 小时前AI 评分16
随机特征网络中的二次弱到强泛化:基于随机矩阵理论的研究
Quadratic Weak-to-Strong Generalization in Random Feature Networks via Random Matrix Theory
AI 导读
研究在两层随机特征网络中,模型强度由宽度决定时,弱到强泛化的表现。利用随机矩阵理论,推导出最优训练教师模型与梯度流训练学生模型的总体误差确定性等价式。在 ReLU 激活和纯球谐目标下,学生误差随教师误差呈二次方缩放,达到 Medvedev 等人(2025)的通用下界,并刻画了二次、非二次及无改进之间的转变。
来源:arXiv stat.ML · arxiv.org