跳到正文
热点事件持续更新

表格基础模型注意力机制基准测试发布

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

研究者 Max Schambach 等人发布了一套可复现的基准测试,用于测量表格上下文学习模型(TabPFN、Mitra、ConTextTab 等)行列二维注意力在不同后端上的前向与反向吞吐。 测试覆盖 Torch SDPA(efficient 与 cuDNN)、FlashAttention-2/3/4,以及仅用于推理的 vLLM 和 SageAttention,在 A100、H100、B200 三代 GPU 上、按真实表格形状进行。作者称自包含的基准测试与评估代码已公开。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.LG
    表格基础模型的注意力机制基准测试:FlashAttention、CuDNN、SageAttention 在 A100/H100/B200 上的对比

    针对 TabPFN、Mitra、ConTextTab 等表格上下文学习模型的行列二维注意力,研究者构建了可复现基准,在 A100、H100、B200 三代 GPU 上测量 Torch SDPA(efficient 与 cuDNN)、FlashAttention-2/3/4、vLLM 和 SageAttention 的前向与反向吞吐。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。