无标签仿射转换器可替换表格基础模型96%块
热点事件观察中
无标签仿射转换器可替换表格基础模型96%块
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
研究者提出一种闭式、无标签的仿射转换器，可替换表格基础模型（TFM）中最多96%的连续Transformer块，其余块保持不变。 在171个分类数据集上评估8个前沿TFM后，替换一半块的中位AUROC损失最多仅0.002，半深TabFM仍优于所有全深TFM和调优GBDT。移除深度最多可省1.5B参数，GPU推理提速最高6倍；单块TabPFN-3缓存查询提速2.4倍且内存减少6倍。 该研究由Irene Cannistraci和Julia E. Vogt提出，认为表格基础模型实为“浅层”架构，存在深度冗余。
AI 根据报道生成 · 1 天前更新
最新进展10月12日 12:00
研究发现表格基础模型（TFM）实为"浅层"架构，可移除96%的Transformer块报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv cs.AI研究发现表格基础模型（TFM）实为"浅层"架构，可移除96%的Transformer块
研究者提出一种闭式、无标签的仿射转换器，可替换表格基础模型（TFM）中最多96%的连续Transformer块。在171个分类数据集上评估8个前沿TFM后发现，替换一半块的中位AUROC损失最多仅0.002，半深TabFM仍优于所有全深TFM和调优GBDT。移除深度最多可省1.5B参数，GPU推理提速最高6倍，单块TabPFN-3缓存查询提速2.4倍且内存减少6倍。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 1010月12日 13:00
- 近 24 小时变化
- -51%
02.557.510
18:0010月13日06:0012:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。