跳到正文
arXiv stat.ML· Martin Eppert, Krishna Balasubramanian, Subhro Ghosh, Jason Klusowski, Yan Shuo Tan·· 9 小时前AI 评分22

PFN 如何通过上下文学习实现自适应均值估计:一项梯度流分析

Adaptive Mean Estimation by In-Context Learning: A Gradient-Flow Analysis

AI 导读

研究揭示 Prior Fitted Networks(PFN)如 TabPFN 在位置估计任务中实现统计自适应的机制:softmax 注意力在标量输入上计算经验累积生成函数的导数,同时提供区分数据族的特征并形成在样本均值与中程之间插值的估计器。

来源:arXiv stat.ML · arxiv.org