JEM自监督算法提出,7B参数超越DINOv3
热点事件持续更新
JEM自监督算法提出,7B参数超越DINOv3
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
研究者提出一种名为 JEM 的自监督学习算法,采用学生-教师框架,通过对齐不同视角下对应的 patch 表示来学习,并显式加入信息保持与结构保持损失作为正则。该方法可在 300M 至 7B 参数规模下稳定训练,据称是首个在 7B 规模验证的隐空间 patch 级方法。 在分割基准上,JEM 持续超过 DINOv2;在 7B 参数时,其全景分割表现超过 DINOv3,且训练数据量少 12 倍,无需精调阶段。上述结果来自提出者发布的论文。
AI 根据报道生成 · 2 小时前更新
最新进展10月8日 12:00
JEM:可扩展的 patch 级自监督学习算法,7B 参数超越 DINOv3报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv cs.CVJEM:可扩展的 patch 级自监督学习算法,7B 参数超越 DINOv3
研究者提出 JEM,一种基于多视角假设的学生-教师自监督学习方法,通过对齐不同视角的 patch 表示并显式加入信息与结构保持损失,可在 300M 至 7B 参数下稳定训练,是首个在 7B 规模验证的隐空间 patch 级方法。在分割基准上 JEM 持续超越 DINOv2,7B 参数时在全景分割上超过 DINOv3,且训练数据量少 12 倍、无需精调阶段。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。