跳到正文
热点事件持续更新

平均场神经网络训练涨落研究获进展

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Arnaud Descours 与 Geoffrey Lacour 发表论文,证明平均场极限下宽神经网络参数分布的涨落会传播到浅层网络经随机梯度下降训练后的有限维非线性可观测量。 研究在加权 Sobolev 空间中用泛函 Delta 方法导出中心极限定理及显式协方差公式。在常数秩假设下,作者还给出可观测量局部因子化的充要条件:观测泛函微分的核包含于目标量微分的核。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv stat.ML
    平均场神经网络训练中非线性可观测量的涨落研究

    该研究证明,平均场极限下宽神经网络参数分布的涨落可传播至浅层网络经随机梯度下降训练后的有限维非线性可观测量,并在加权 Sobolev 空间中用泛函 Delta 方法导出中心极限定理及显式协方差公式。在常数秩假设下,研究还给出可观测量局部因子化的充要条件:观测泛函微分的核包含于目标量微分的核。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。