SNAP方法提出合成难负样本新策略

Nikos Giakoumoglou等作者提出SNAP方法，用于视觉-语言预训练中的合成难负样本生成。该方法在模态内构造难负样本，且不涉及任一模态的正样本，作者称以此同时避开两种失败模式。 研究分析了六种表征空间合成策略的迁移效果：跨模态构造会产生过易负样本或把样本拉向查询，模态内构造则混入匹配正样本；同时观察到logit尺度饱和问题，固定温度可提升下游性能。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。