跳到正文
热点事件观察中

Osband 提出 horizon loss 改进分类训练

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Ian Osband 提出一种名为 horizon loss 的分类训练损失函数:它把交叉熵看作“耐心的准确率”,并按剩余训练量进行截断,使训练后期从交叉熵过渡到精确策略梯度。 据其测试,在 MNIST 及 ImageNet 上使用 ResNet-50、ResNet-101 和 ViT-S/16 时,该方法在固定学习率下提升了 top-1 准确率,且标签噪声越大增益越明显。

AI 根据报道生成 · 14 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv stat.ML
    从交叉熵到精确策略梯度:Ian Osband 提出 horizon loss 提升分类精度

    Ian Osband 提出 horizon loss,将交叉熵视为"耐心的准确率",并按剩余训练量截断,从而在训练后期向精确策略梯度过渡。在 MNIST 及 ImageNet 上使用 ResNet-50、ResNet-101 和 ViT-S/16 测试,该方法在固定学习率下提升 top-1 准确率,且标签噪声越大增益越明显。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。