arXiv stat.ML· Houzhen Liu, Xiaobo Xia·· 4 小时前AI 评分12
异构输入融合下的良性过拟合研究
Benign Overfitting under Heterogeneous Input Fusion
AI 导读
针对异构输入融合场景下最小范数线性插值的良性过拟合行为,研究在异构高斯设计中对比两个统计相关输入块及其融合效果。回归任务中,研究识别出一个全谱协方差证书,其渐近状态与截断阈值无关,且被所有与两个边缘分布一致的正半定联合协方差所保持;但该保护不适用于所有良性回归问题。一稀疏高斯分类中,良性由存活预测信号与干扰污染的平衡决定,融合可使二者反向移动,且同一融合输入对回归和分类可产生本质不同影响。
来源:arXiv stat.ML · arxiv.org