跳到正文
热点事件持续更新

TR-PTQ:纯整数 Transformer 量化新方法

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

Eliyahu Levy、Adam Teman 和 Yoni Pugachov 提出 TR-PTQ,一种纯整数 Transformer 训练后量化方法。该方法通过共享 Taylor Region 指数与对数原语,把除法和平方根等运算全部转入对数域,用整数算术完成。 据其论文,这一统一整数形式旨在解决纯整数 Transformer 量化中的相关瓶颈。目前报道未给出该方法在具体模型或硬件上的精度与速度结果。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv cs.LG
    TR-PTQ:通过 Taylor Region 重构实现高精度纯整数 Transformer 训练后量化

    TR-PTQ 提出一种纯整数 Transformer 训练后量化方法,通过共享 Taylor Region 指数与对数原语,将除法和平方根等运算全部转入对数域用整数算术完成。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。