arXiv cs.LG· Sowjanya Tammali, Wilkie Olin-Ammentorp·· 12 小时前AI 评分20
Lock-in EP:面向振荡硬件的原位训练算法
Lock-in EP: An In-Situ Training Algorithm for Oscillatory Hardware
AI 导读
研究者提出 lock-in equilibrium propagation(LIEP)训练方法,可为振荡网络中每个组件提供局部梯度信息,无需单独的前向与反向扫描,从而有望在模拟振荡硬件上实现原位学习。LIEP 既可用于从零训练,也能在预训练参数被扰动后恢复性能,并可表述为三因子更新规则。该方法目前仅在浅层网络上验证,作者认为其他架构或可将其扩展至深层大规模网络。
来源:arXiv cs.LG · arxiv.org