arXiv stat.ML· Vincent Counathe, Ben Athiwaratkun, Christopher De Sa, Tianyi Zhang·· 5 小时前AI 评分24
QUASAR：用损失感知重建降低量化感知训练（QAT）的损失下限
QUASAR: Lowering the Loss Floor of Quantization-Aware Training with Loss-Aware Reconstruction
AI 导读
QUASAR 是一种量化感知训练（QAT）方法，通过将轻量级损失感知重建引入训练循环，在每步训练中搜索少量 clipping 范围并用显著性加权最小二乘拟合反量化参数，从而收紧 QAT 的收敛与最终损失界。
来源：arXiv stat.ML · arxiv.org