跳到正文
热点事件持续更新

新方法用逐层误差归因加速混合精度量化

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

Samy Houache 等作者提出一种混合精度训练后量化方法,将量化误差拆分为传播误差与层内局部扰动,用局部项构建可分离评分,无需外部求解器即可完成比特分配。 在 DRUNet 去噪任务、平均 4 bits/权重预算下,该方法在干净校准数据上持平或优于现有混合精度基线;校准数据被污染时 PSNR 最高提升 7.5 dB,比特分配速度较基线快 28 倍至 2,570 倍。上述结果来自作者发表的论文。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv cs.LG
    分层误差归因实现快速鲁棒的混合精度训练后量化

    一种基于分层概率误差分析的混合精度训练后量化方法被提出,将量化误差拆分为传播误差与层内局部扰动,用局部项构建可分离评分,无需外部求解器即可完成比特分配。在 DRUNet 去噪任务、平均 4 bits/权重预算下,该方法在干净校准数据上持平或优于现有混合精度基线,校准数据被污染时 PSNR 最高提升 7.5 dB,比特分配速度较基线快 28x 至 2,570x。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。