arXiv cs.LG· Xiaoqin Feng, Yuqi Li, Weilun Feng, Yi-Cheng Lin, Kai Li, Xianglong Wang, Kuo Yang, Chuanguang Yang, Yingli Tian, Wei Li, Zhongwei Cheng, Lin Chen·· 7 小时前AI 评分22
TTS-Q：面向 TTS 扩散 Transformer 的感知引导训练后量化
TTS-Q: Perception-Guided Post-Training Quantization of Text-to-Speech Diffusion Transformers
AI 导读
研究团队提出 TTS-Q，针对 1B 和 3.5B 的 TTS 扩散 Transformer 完成首个 4-bit 权重与激活（W4A4）训练后量化研究，发现音色损失来自权重和激活量化，但只有激活量化具备可被精度调度利用的 timestep 结构。TTS-Q 从任务匹配的校准候选中筛选难量化项，并按预算均衡的混合精度调度为后期 FFN 激活分配更高精度，在两个规模上均最优恢复音色且不损可懂度。
来源：arXiv cs.LG · arxiv.org