NeuronSpark脉冲语言模型论文发布
热点事件观察中
NeuronSpark脉冲语言模型论文发布
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
研究者 Zhengzheng Tang 发布论文,提出 NeuronSpark——一种不依赖自注意力、基于输入依赖脉冲膜动力学的语言模型。该模型中每个神经元的衰减率、增益和发放阈值会随当前 token 内容自适应调整,并结合门控关联记忆与自适应时间聚合。 论文称,该模型可从随机初始化开始进行十亿级预训练,无需骨干迁移、转换或蒸馏。上述效果为论文作者在 arXiv 上的表述。
AI 根据报道生成 · 1 天前更新
最新进展10月12日 12:00
NeuronSpark:面向语言建模的自适应计算选择性脉冲状态空间模型报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv cs.AINeuronSpark:面向语言建模的自适应计算选择性脉冲状态空间模型
NeuronSpark 是一种无需自注意力、基于输入依赖脉冲膜动力学的语言模型,每个神经元的衰减率、增益和发放阈值随当前 token 内容自适应调整,结合门控关联记忆与自适应时间聚合,实现从随机初始化开始的十亿级预训练,无需骨干迁移、转换或蒸馏。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 1010月12日 13:00
- 近 24 小时变化
- -51%
02.557.510
18:0010月13日06:0012:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。