跳到正文
arXiv cs.AI· Zhimeng Jiang, Yuening Li, Ruixiao Sun, Yuanzhen Lin, Kun Jin, Chuan He, Liang Liu·· 8 小时前AI 评分22

链维度扩展 CDS:面向工业短视频排序的通信高效循环式扩展

Chain Dimension Scaling: Communication-Efficient Loop-Style Scaling for Industrial Short-Video Ranking

AI 导读

研究提出链维度扩展(CDS),通过参数共享的循环迭代为推荐排序模型增加新扩展维度。在压缩模式下,CDS 离线质量与基线差距在 0.03% 以内,可训练参数减少 26.6%,训练吞吐提升 6.4%;在质量扩展模式下,排序质量随链长增加单调提升。效率收益主要来自跨设备同步开销与优化器更新成本的降低,而非 FLOPs 减少。

来源:arXiv cs.AI · arxiv.org