arXiv cs.AI· Anna van Elst, Olivier Fercoq, Igor Colin, Stephan Cl\'emen\c{c}on·· 13 小时前AI 评分20
Goal-PD：面向鲁棒非光滑凸去中心化学习的快速异步 Gossip 算法
Fast and Efficient Asynchronous Gossip Algorithm for Robust and Non-Smooth Convex Decentralized Learning
AI 导读
研究者提出异步 gossip 原始-对偶算法 Goal-PD，每个节点仅需维护两个变量，不再随节点度数增长，从而大幅降低去中心化学习的显存开销。该算法被证明几乎必然收敛到最优解，并在目标函数为分段线性二次时具有线性收敛速度；在去中心化均值估计中，成对平均被证明是 Goal-PD 的特例。
来源：arXiv cs.AI · arxiv.org