arXiv cs.LG· Eliyahu Levy, Adam Teman, Yoni Pugachov·· 6 小时前AI 评分24
TR-PTQ:通过 Taylor Region 重构实现高精度纯整数 Transformer 训练后量化
TR-PTQ: High-Accuracy Integer-Only Transformer Post Training Quantization via Taylor Region Reformulation
AI 导读
TR-PTQ 提出一种纯整数 Transformer 训练后量化方法,通过共享 Taylor Region 指数与对数原语,将除法和平方根等运算全部转入对数域用整数算术完成。
来源:arXiv cs.LG · arxiv.org