跳到正文
热点事件持续更新

前向算法硬件实测能耗反超反向传播

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

研究者在 NVIDIA A100 上对 Forward-Forward(FF)、Cascaded Forward(CaFo)和 Mono-Forward 等无需反向传播的前向算法做了近 1000 次硬件实测,覆盖 MNIST、Fashion-MNIST、CIFAR-10 和 CIFAR-100 四个视觉基准,并与调优后的反向传播(BP)基线对比能耗、功率和内存。 结论是去掉反向传播本身并不省电:FF 的能耗是 BP 的 4.1 至 6.3 倍,CaFo 为 3.0 至 7.1 倍。该结果由 Przemysław Spyra 和 Witold Dzwinel 发布。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    无需反向传播的节能深度学习:前向算法的严格硬件验证基准测试

    研究者在 NVIDIA A100 上对 Forward-Forward、Cascaded Forward 和 Mono-Forward 等前向算法进行了近 1000 次硬件实测,发现去掉反向传播本身并不省电:FF 能耗是 BP 的 4.1x 至 6.3x,CaFo 为 3.0x 至 7.1x。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。