跳到正文
热点事件持续更新

arXiv研究:良性错配下的训练-测试权衡

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

arXiv 上一项由 Gireeja Ranade 和 Anant Sahai 发布的研究提出“良性错配”(第四象限)现象:在确定性 (d+1) 维单尖峰模型的平方误差线性回归中,存在一段训练集规模区间,泛化良好的预测器必须比零预测器更差地拟合训练数据,最极端时测试误差趋零而训练误差发散。 研究给出的量化结论是:最佳 span 预测器在 n≫d/γ² 时开始泛化,而插值需要 n≫d/γ;大常数学习率的一遍随机梯度下降在该窗口内可达到接近最优的测试误差。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.LG
    线性回归中的良性错配:第四象限的精确训练-测试权衡

    研究在确定性 (d+1) 维单尖峰模型下平方误差线性回归的训练-测试权衡,提出"良性错配"(第四象限)现象:存在一段训练集规模区间,泛化良好的预测器必须比零预测器更差地拟合训练数据。最极端时测试误差趋零而训练误差发散。最佳 span 预测器在 n≫d/γ² 时开始泛化,而插值需要 n≫d/γ;大常数学习率的一遍随机梯度下降在该窗口内可达到接近最优的测试误差。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。