arXiv cs.AI· Pengxiang Li, Dilxat Muhtar, Di He, Guinan Su, Lu Yin, Shiwei Liu·· 3 小时前AI 评分41
InfiLoop：用循环原生注意力残差将测试时迭代扩展至数万次
Scaling to Tens of Thousands of Test-Time Iterations with Loop-Native Attention Residuals
AI 导读
研究者提出循环原生残差连接 InfiLoop，让循环 Transformer 在迭代次数增长时不再性能退化，它结合内容加权与学习式时间衰减，维持对循环状态的持续汇总，并以精确流式递推保持聚合内存恒定。
来源：arXiv cs.AI · arxiv.org