随机特征网络弱到强泛化研究获新进展
热点事件持续更新
随机特征网络弱到强泛化研究获新进展
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Deborah Oliveira 与 Elliot Paquette 发表论文,研究两层随机特征网络中的弱到强泛化:模型强度由网络宽度决定。 研究用随机矩阵理论推导出最优训练教师模型与梯度流训练学生模型的总体误差确定性等价式。在 ReLU 激活和纯球谐目标下,学生误差随教师误差呈二次方缩放,达到 Medvedev 等人(2025)给出的通用下界,并刻画了二次、非二次及无改进之间的转变。
AI 根据报道生成 · 3 小时前更新
最新进展10月8日 12:00
随机特征网络中的二次弱到强泛化:基于随机矩阵理论的研究报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv stat.ML随机特征网络中的二次弱到强泛化:基于随机矩阵理论的研究
研究在两层随机特征网络中,模型强度由宽度决定时,弱到强泛化的表现。利用随机矩阵理论,推导出最优训练教师模型与梯度流训练学生模型的总体误差确定性等价式。在 ReLU 激活和纯球谐目标下,学生误差随教师误差呈二次方缩放,达到 Medvedev 等人(2025)的通用下界,并刻画了二次、非二次及无改进之间的转变。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。