DINOv3视觉模型仅凭图像学会词义

一项新预印本论文称，两个最大的 DINOv3 视觉 Transformer 在仅用图像自监督预训练、没有配对字幕或语言监督的情况下，能按词义组织图像中渲染的单词。作者 Anders Gjølbye 等人从单词图像与对照图像的嵌入向量差异中提取词表示，发现同行业品牌名、同语义域名词彼此邻近，国家-首都对呈现一致向量偏移，且这些词表示与对应视觉物体类别的表示对齐。 论文称，DINOv3-H 和 DINOv3-7B 是首个展现出渲染单词显著语义结构的自监督视觉模型。上述结论来自作者自述，尚未经独立验证。

AI 根据报道生成 · 57 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。