跳到正文
arXiv cs.CL· Faisal Ladhak, Shantanu Acharya, Santiago Akle Serano, Simeng Sun, Boris Ginsburg, Krishna C Puvvada·· 2 小时前AI 评分41

Elastic Latent Recurrence:让循环语言模型不再有单次循环损耗

One Model to Loop Them All: Elastic Latent Recurrence for Language Models

AI 导读

研究者提出 Elastic Latent Recurrence(ELR)训练方法,使循环语言模型在单次循环时与同规模非循环模型服务成本相同、精度相近,每增加一次循环即可用更多推理算力换取更高精度。

来源:arXiv cs.CL · arxiv.org