跳到正文
热点事件持续更新

新方法将SDE估计转为随机梯度收敛界

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

研究者 Neil Walton 提出一种速率迁移方法,可将关联随机微分方程(SDE)的有限时间 Lyapunov 估计,转化为随机梯度算法的有限时间收敛界。 该方法在通用矩条件与平滑性条件下,把随机梯度法的收敛分析简化为验证 SDE 的 Lyapunov 生成元不等式的微积分论证。据该研究称,它能复现经典随机梯度方法的已知收敛速率,并为新优化算法通过其关联 SDE 建立收敛速率提供途径。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    一种速率迁移方法:通过随机微积分推导随机梯度下降的收敛速率

    研究者提出一种速率迁移方法,可将关联随机微分方程(SDE)的有限时间 Lyapunov 估计转化为随机梯度算法的有限时间收敛界。在通用矩条件与平滑性条件下,随机梯度法的收敛分析被简化为验证 SDE 的 Lyapunov 生成元不等式的微积分论证。该方法能复现经典随机梯度方法的已知收敛速率,并为新优化算法通过其关联 SDE 建立收敛速率提供了途径。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。