arXiv stat.ML· Frank Cole, Nicholas H. Nelsen, Takashi Furuya·· 10 小时前AI 评分12
亚高斯数据上测度到测度 Transformer 的稳定性研究
Stability of Measure-to-Measure Transformers on Sub-Gaussian Data
AI 导读
一项数学研究证明,Transformer 将亚高斯输入映射为亚高斯输出,从而保证任意长度 softmax 算子复合的良定义性。研究进一步证明 Transformer 关于 1-Wasserstein 距离满足 Hölder 连续性,并据此给出亚高斯输入与其经验近似之间沿 Transformer 的误差传播估计。
来源:arXiv stat.ML · arxiv.org