arXiv cs.LG· Anthony Kostal-Vazquez, Vassil Dimitrov, Branden Butler·· 7 小时前AI 评分24
代数整数量化（AIQ）：面向 LLM 推理的压缩计算格式
Algebraic Integer Quantization for Machine Learning Applications
AI 导读
研究者提出代数整数数格式（AINF）及基于其的代数整数量化（AIQ），一种用于大语言模型推理的有损压缩格式。AIQ 可归约为纯整数运算，实现无误差的乘累加操作，在相同 bit-per-parameter 预算下，于多种模型和基准上取得与业界标准 MX 格式相当的精度。实验采用二次代数整数，更高阶及多维代数整数是未来方向。
来源：arXiv cs.LG · arxiv.org