arXiv cs.AI· Gerard Grau Garc\'ia, Arnau Padr\'es Masdemont, Niccol\`o Grillo, Jordi Ros-Giralt, Arash Behboodi, Victor Conchello Vendrell·· 3 小时前AI 评分34
LLoCoT:用循环 Transformer 实现非自回归潜在推理
From Chain-of-Thought to Loops: Non-Autoregressive Latent Reasoning via Looped Transformers
AI 导读
LLoCoT 是一个循环潜在推理框架,用对紧凑潜在工作区的迭代精炼取代从左到右的潜在生成,共享 Transformer 经少量精炼迭代联合更新潜在槽位,再由概率头并行采样潜在 token 并条件化自回归解码器生成答案。
来源:arXiv cs.AI · arxiv.org