arXiv cs.LG· Xinsong Feng, Peng Du, Zhizhuo Yang, Daniel M. Bikel, Jiayun Wang, Haipeng Chen·· 6 小时前AI 评分29
BLD:将 1024 token 压缩为 64 个块隐变量的高效连续扩散语言模型
Denoising Blocks, Not Tokens: Efficient Compressed Continuous Diffusion with Branching Token Realization
AI 导读
研究者提出 Branching Latent Diffusion(BLD),将 1024 token 序列压缩为仅 64 个块隐变量(16 倍压缩),并通过分支式 token 实现让各局部 AR 分支并行解码。
来源:arXiv cs.LG · arxiv.org