跳到正文
热点事件持续更新

JEM自监督算法提出,7B参数超越DINOv3

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

研究者提出一种名为 JEM 的自监督学习算法,采用学生-教师框架,通过对齐不同视角下对应的 patch 表示来学习,并显式加入信息保持与结构保持损失作为正则。该方法可在 300M 至 7B 参数规模下稳定训练,据称是首个在 7B 规模验证的隐空间 patch 级方法。 在分割基准上,JEM 持续超过 DINOv2;在 7B 参数时,其全景分割表现超过 DINOv3,且训练数据量少 12 倍,无需精调阶段。上述结果来自提出者发布的论文。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv cs.CV
    JEM:可扩展的 patch 级自监督学习算法,7B 参数超越 DINOv3

    研究者提出 JEM,一种基于多视角假设的学生-教师自监督学习方法,通过对齐不同视角的 patch 表示并显式加入信息与结构保持损失,可在 300M 至 7B 参数下稳定训练,是首个在 7B 规模验证的隐空间 patch 级方法。在分割基准上 JEM 持续超越 DINOv2,7B 参数时在全景分割上超过 DINOv3,且训练数据量少 12 倍、无需精调阶段。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。