研究揭示TabPFN-3逐层推理机制

Wenwen Gong等作者发表论文，分析了TabPFN-3全部24个上下文学习层在272个分类数据集上的表现，发现其呈现明显的“扩张-压缩”轨迹：后期维度收缩越强，类别原型分离度提升越大。 研究还发现，早期预测稳定后表征仍持续变化；局部模糊查询从浅层到深层获得的准确率增益大于易分样本；重复单个预训练块或打乱层序平均会降低预测性能。作者同时对另外四个表格基础模型的表征动态进行了考察。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。