跳到正文
热点事件持续更新

RAM-Net:稀疏寻址状态实现线性序列建模

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Kaicheng Xiao 等作者提出 RAM-Net,用稀疏地址访问替代对共享状态的密集访问:循环状态被组织为固定大小的独立槽位数组,Address Decoder 将每个 key 或 query 映射为稀疏地址,每步只读写少量槽位,以抑制 token 间干扰。 作者称,该模型在细粒度长程检索上优于强循环基线,困惑度最低,常识推理具竞争力,每步访问的状态元素比 Mamba2 少 8 倍。论文已被 NeurIPS 2026 接收。

AI 根据报道生成 · 8 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv cs.LG
    RAM-Net:用稀疏可寻址状态实现线性时间序列建模

    RAM-Net 将循环状态组织为固定大小的独立槽位数组,通过 Address Decoder 把每个 key 或 query 映射为稀疏地址,只读写少量槽位,从而抑制 token 间干扰。该模型在细粒度长程检索上优于强循环基线,困惑度最低且常识推理具竞争力,每步访问的状态元素比 Mamba2 少 8 倍。论文已被 NeurIPS 2026 接收。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。