跳到正文
arXiv cs.LG· Qingwen Lin, Boyan Xu, Shifeng Xie, Zhifeng Hao, Keli Zhang, Ruichu Cai·· 7 小时前AI 评分24

HART:混合 Attention-RWKV 时间序列基础模型

HART: Hybrid Attention-RWKV Time series Foundation Model

AI 导读

针对 RWKV-7 在非自回归多步预测中的长程退化问题,研究者提出混合 Attention 与 RWKV 模块的 HART 时间序列基础模型。在 GIFT-Eval 与 TIME-Benchmark 上,HART 在中长预测区间优于纯 RWKV,整体表现超过同规模纯 Transformer。

来源:arXiv cs.LG · arxiv.org