SST V2 论文发布:潜空间推理新架构
热点事件持续更新
SST V2 论文发布:潜空间推理新架构
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Thea Aviss 发布 State Stream Transformer(SST)V2 论文。该架构在每个解码器层用 FFN 驱动非线性循环,让潜状态沿全序列水平流动,实现连续潜空间推理,并以两遍并行训练近似顺序循环。 据论文,在 27B 基座模型上仅用少量 GSM8K 样本联合训练后,SST V2 在 GPQA-Diamond 上达到 61.11% 的架构容量上限,较微调匹配基线提升 15.15 分,并将该基线剩余的 GSM8K 错误减少 46%。
AI 根据报道生成 · 57 分钟前更新
最新进展10月9日 12:00
State Stream Transformer (SST) V2:用非线性循环并行训练实现潜空间推理报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv cs.LGState Stream Transformer (SST) V2:用非线性循环并行训练实现潜空间推理
State Stream Transformer (SST) V2 通过每层解码器中的 FFN 驱动非线性循环,将潜状态沿全序列水平流动,实现连续潜空间推理。它用两遍并行训练近似顺序循环,在 27B 基座模型上仅用少量 GSM8K 样本联合训练,于 GPQA-Diamond 上达到 61.11% 的架构容量上限,较微调匹配基线提升 15.15 分,并将该基线剩余的 GSM8K 错误减少 46%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。