跳到正文
arXiv cs.CV· Maximilian Seitzer, Gabriele Trivigno, Anton\'in Vobeck\'y, Seungeun Yi, Maxime Oquab, Huy V. Vo, Oriane Sim\'eoni, Piotr Bojanowski·· 4 小时前AI 评分24

JEM:可扩展的 patch 级自监督学习算法,7B 参数超越 DINOv3

Scalable Patch-Level Self-Supervised Learning

AI 导读

研究者提出 JEM,一种基于多视角假设的学生-教师自监督学习方法,通过对齐不同视角的 patch 表示并显式加入信息与结构保持损失,可在 300M 至 7B 参数下稳定训练,是首个在 7B 规模验证的隐空间 patch 级方法。在分割基准上 JEM 持续超越 DINOv2,7B 参数时在全景分割上超过 DINOv3,且训练数据量少 12 倍、无需精调阶段。

来源:arXiv cs.CV · arxiv.org