前向算法硬件实测能耗反超反向传播
热点事件持续更新
前向算法硬件实测能耗反超反向传播
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
研究者在 NVIDIA A100 上对 Forward-Forward(FF)、Cascaded Forward(CaFo)和 Mono-Forward 等无需反向传播的前向算法做了近 1000 次硬件实测,覆盖 MNIST、Fashion-MNIST、CIFAR-10 和 CIFAR-100 四个视觉基准,并与调优后的反向传播(BP)基线对比能耗、功率和内存。 结论是去掉反向传播本身并不省电:FF 的能耗是 BP 的 4.1 至 6.3 倍,CaFo 为 3.0 至 7.1 倍。该结果由 Przemysław Spyra 和 Witold Dzwinel 发布。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
无需反向传播的节能深度学习:前向算法的严格硬件验证基准测试报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.AI无需反向传播的节能深度学习:前向算法的严格硬件验证基准测试
研究者在 NVIDIA A100 上对 Forward-Forward、Cascaded Forward 和 Mono-Forward 等前向算法进行了近 1000 次硬件实测,发现去掉反向传播本身并不省电:FF 能耗是 BP 的 4.1x 至 6.3x,CaFo 为 3.0x 至 7.1x。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。