跳到正文
热点事件持续更新

SST V2 论文发布:潜空间推理新架构

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Thea Aviss 发布 State Stream Transformer(SST)V2 论文。该架构在每个解码器层用 FFN 驱动非线性循环,让潜状态沿全序列水平流动,实现连续潜空间推理,并以两遍并行训练近似顺序循环。 据论文,在 27B 基座模型上仅用少量 GSM8K 样本联合训练后,SST V2 在 GPQA-Diamond 上达到 61.11% 的架构容量上限,较微调匹配基线提升 15.15 分,并将该基线剩余的 GSM8K 错误减少 46%。

AI 根据报道生成 · 57 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv cs.LG
    State Stream Transformer (SST) V2:用非线性循环并行训练实现潜空间推理

    State Stream Transformer (SST) V2 通过每层解码器中的 FFN 驱动非线性循环,将潜状态沿全序列水平流动,实现连续潜空间推理。它用两遍并行训练近似顺序循环,在 27B 基座模型上仅用少量 GSM8K 样本联合训练,于 GPQA-Diamond 上达到 61.11% 的架构容量上限,较微调匹配基线提升 15.15 分,并将该基线剩余的 GSM8K 错误减少 46%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。