研究者提出AIQ量化格式用于大模型推理
热点事件持续更新
研究者提出AIQ量化格式用于大模型推理
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
研究者 Anthony Kostal-Vazquez 等人提出代数整数数格式（AINF）及基于它的代数整数量化（AIQ），一种用于大语言模型推理的有损压缩格式。该格式可归约为纯整数运算，实现无误差的乘累加操作。 在相同 bit-per-parameter 预算下，AIQ 在多种模型和基准上取得与业界标准 MX 格式相当的精度。实验采用二次代数整数，更高阶及多维代数整数被列为未来方向。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
代数整数量化（AIQ）：面向 LLM 推理的压缩计算格式报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv cs.LG代数整数量化（AIQ）：面向 LLM 推理的压缩计算格式
研究者提出代数整数数格式（AINF）及基于其的代数整数量化（AIQ），一种用于大语言模型推理的有损压缩格式。AIQ 可归约为纯整数运算，实现无误差的乘累加操作，在相同 bit-per-parameter 预算下，于多种模型和基准上取得与业界标准 MX 格式相当的精度。实验采用二次代数整数，更高阶及多维代数整数是未来方向。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。