arXiv cs.LG· Max Bourgeat·· 7 小时前AI 评分22
Chronos-Bolt 与 TimesFM 2.5 能否跳过 Transformer 块？时间序列基础模型的结构化块跳过研究
How Much Computation Does Every Forecast Need? Structured Block Skipping in Two Time-Series Foundation Models
AI 导读
研究测试了在推理时移除整个 Transformer 块对 Chronos-Bolt 和 TimesFM 2.5 两个预训练时间序列基础模型的影响。在中等稀疏度下，Chronos-Bolt 保留 7/11 候选块、TimesFM 保留 16/20 块时，预测质量变化很小，A100 batch-1 延迟中位数分别降低 11.2% 和 13.4%。
来源：arXiv cs.LG · arxiv.org