arXiv cs.LG· Yiming Qin, Ke Wang, Amel Abdelraheem, Adam Hazimeh, Pascal Frossard·· 9 小时前AI 评分25
用自回归后训练权重增强扩散语言模型：A2D 免训练框架
Enhancing Diffusion Language Models with Autoregressive Post-Training Weights
AI 导读
研究者提出 A2D，一个免训练框架，可将 AR 模型的后训练权重更新直接复用到扩散语言模型上。AR 与扩散后训练更新在权重空间近乎正交，却能带来更一致的表示变化，组合两者可同时保留双方收益。
来源：arXiv cs.LG · arxiv.org