SAGE 2比特向量量化方法发布
热点事件持续更新
SAGE 2比特向量量化方法发布
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
Xianglong Yan 等人提出面向权重-only 向量量化的 SAGE 方法,通过能量分层分组(ESG)与自适应比特拆分(ABS)处理敏感通道保护和固定比特预算分配问题,在 2-bit 量化下取得 SOTA 表现。 据该研究称,在 Qwen3-30B-A3B 上,SAGE 保留了 BF16 模型平均基准分数的 95.3%,配合自研 CUDA kernel 实现最高 2.55 倍于 FP16 的非流式端到端加速。代码已开源。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
SAGE:将 2-Bit 向量量化 LLM 推向真实可用报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.AISAGE:将 2-Bit 向量量化 LLM 推向真实可用
SAGE 是一种面向权重-only 向量量化的新方法,通过能量分层分组(ESG)与自适应比特拆分(ABS)解决敏感通道保护和固定比特预算分配两大难题,在 2-bit 量化下取得 SOTA 表现。在 Qwen3-30B-A3B 上,它保留了 BF16 模型平均基准分数的 95.3%,配合自研 CUDA kernel 实现最高 2.55 倍于 FP16 的非流式端到端加速。代码已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。