arXiv cs.LG· Jos\'e Lucas De Melo Costa, Seong Woo Ahn, Fabrice Popineau, Arpad Rimmel, Bich-Li\^en Doan·· 1 天前AI 评分24
JEPA 训练动力学新理论：驱动与衰减之争，提出 ResidualPred 预测器
Drive vs. Decay: On the Training Dynamics of Joint-Embedding Predictive Architectures
AI 导读
研究提出 JEPA 早期训练稳定性理论，将表征坍缩归因于驱动力 γ 与衰减效应 σ 的竞争，并预测出相边界，在超过 800 组 Tabular-JEPA 配置上得到验证。
来源：arXiv cs.LG · arxiv.org