免重训练让Transformer按算力动态伸缩
热点事件持续更新
免重训练让Transformer按算力动态伸缩
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
研究者提出一种免重训练方法，可将预训练 Transformer 弹性化为单一模型，在运行时按不同算力预算动态调整，无需重新训练。 该方法对每个 MLP 神经元和注意力头在统一尺度上联合排序，在 22M 至 8B 参数的 27 个视觉与文本 Transformer 编码器上，实现最高 60% 稀疏度下的平滑退化。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
Transformer 竟是弹性的：无需重训练即可按算力预算动态伸缩报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv cs.LGTransformer 竟是弹性的：无需重训练即可按算力预算动态伸缩
研究者提出一种免重训练方法，可将预训练 Transformer 弹性化为单一模型，在运行时按不同算力预算动态调整。该方法对每个 MLP 神经元和注意力头在统一尺度上联合排序，在 22M 至 8B 参数的 27 个视觉与文本 Transformer 编码器上实现最高 60% 稀疏度下的平滑退化。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。