arXiv stat.ML· Ruoyu Zhao, Yuting Chen, Jinheng Zhang, Zhehao Zou, Tong Che·· 4 小时前AI 评分18
共享高斯化（SG）：高斯正则化器能为对比学习保证什么，又会遗漏什么
Shared Gaussianization: What Gaussian Regularizers Certify About Contrastive Learning, and What They Miss
AI 导读
研究提出共享高斯化（SG）——对两个归一化视图均值做特征函数高斯性检验，可同时检测视图错位与非均匀性，并在总体 InfoNCE 的对齐均匀极小点处恰好消失。在等边际条件下，SG 以 4·3^{3/4}β 倍 SG 损失的平方根加上一个线性项界定 InfoNCE 超额，该平方根速率与无量纲常数均为紧的。
来源：arXiv stat.ML · arxiv.org