arXiv cs.CL· Ian Magnusson, Noah A. Smith, Pang Wei Koh·· 5 小时前AI 评分27
COUNT:用 n-gram 计数在主机内存上扩展并实现免训练适配
The COUNT: Counting N-grams Unlocks Scaling on Host Memory and Training-Free Adaptation
AI 导读
研究者提出 COUNT(Counting Offline Unlocks N-gram Transformers),通过把预计算的 n-gram 计数存放在主机内存来构建 n-gram 嵌入,无需新增可学习参数。
来源:arXiv cs.CL · arxiv.org