跳到正文
热点事件观察中

NeuronSpark脉冲语言模型论文发布

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

研究者 Zhengzheng Tang 发布论文,提出 NeuronSpark——一种不依赖自注意力、基于输入依赖脉冲膜动力学的语言模型。该模型中每个神经元的衰减率、增益和发放阈值会随当前 token 内容自适应调整,并结合门控关联记忆与自适应时间聚合。 论文称,该模型可从随机初始化开始进行十亿级预训练,无需骨干迁移、转换或蒸馏。上述效果为论文作者在 arXiv 上的表述。

AI 根据报道生成 · 1 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.AI
    NeuronSpark:面向语言建模的自适应计算选择性脉冲状态空间模型

    NeuronSpark 是一种无需自注意力、基于输入依赖脉冲膜动力学的语言模型,每个神经元的衰减率、增益和发放阈值随当前 token 内容自适应调整,结合门控关联记忆与自适应时间聚合,实现从随机初始化开始的十亿级预训练,无需骨干迁移、转换或蒸馏。

本事件热度走势

可比范围当前
4
可比范围峰值
1010月12日 13:00
近 24 小时变化
-51%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。