RAM-Net:稀疏寻址状态实现线性序列建模
热点事件持续更新
RAM-Net:稀疏寻址状态实现线性序列建模
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Kaicheng Xiao 等作者提出 RAM-Net,用稀疏地址访问替代对共享状态的密集访问:循环状态被组织为固定大小的独立槽位数组,Address Decoder 将每个 key 或 query 映射为稀疏地址,每步只读写少量槽位,以抑制 token 间干扰。 作者称,该模型在细粒度长程检索上优于强循环基线,困惑度最低,常识推理具竞争力,每步访问的状态元素比 Mamba2 少 8 倍。论文已被 NeurIPS 2026 接收。
AI 根据报道生成 · 8 小时前更新
最新进展10月7日 12:00
RAM-Net:用稀疏可寻址状态实现线性时间序列建模报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- arXiv cs.LGRAM-Net:用稀疏可寻址状态实现线性时间序列建模
RAM-Net 将循环状态组织为固定大小的独立槽位数组,通过 Address Decoder 把每个 key 或 query 映射为稀疏地址,只读写少量槽位,从而抑制 token 间干扰。该模型在细粒度长程检索上优于强循环基线,困惑度最低且常识推理具竞争力,每步访问的状态元素比 Mamba2 少 8 倍。论文已被 NeurIPS 2026 接收。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。