HART混合注意力-RWKV时序基础模型提出

研究者 Qingwen Lin 等人提出 HART，一种交替使用注意力模块与 RWKV 模块的时间序列基础模型，兼取对历史 token 的直接访问与循环式时序建模。 该模型针对 RWKV-7 在非自回归多步预测中的长程退化问题设计。在 GIFT-Eval 与 TIME-Benchmark 上，HART 在中长预测区间优于纯 RWKV，整体表现超过同规模纯 Transformer。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。