arXiv cs.LG· Samy Houache (IMB, UB), Yann Traonmilin (IMB, UB), Jean-Fran\c{c}ois Aujol (UB, IMB)·· 6 小时前AI 评分22
分层误差归因实现快速鲁棒的混合精度训练后量化
Layerwise Error Attribution for Fast and Robust Mixed-Precision Post-Training Quantization
AI 导读
一种基于分层概率误差分析的混合精度训练后量化方法被提出，将量化误差拆分为传播误差与层内局部扰动，用局部项构建可分离评分，无需外部求解器即可完成比特分配。在 DRUNet 去噪任务、平均 4 bits/权重预算下，该方法在干净校准数据上持平或优于现有混合精度基线，校准数据被污染时 PSNR 最高提升 7.5 dB，比特分配速度较基线快 28x 至 2,570x。
来源：arXiv cs.LG · arxiv.org