开放权重LLM推理能效实测:同分模型耗能差27倍
热点事件持续更新
开放权重LLM推理能效实测:同分模型耗能差27倍
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
一项新研究直接测量了86个开放权重模型检查点在7项基准和6类硬件(从消费级GPU到八卡服务器)上的推理能耗,发现能力相近的模型之间能效差异巨大:多数配置比同等得分的最优配置多耗2.6至4.8倍能量,差距最高达27倍。 该研究由Zeyu Yang和Wes Armour发表,结论基于对上述模型与硬件的实测,而非估算。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
开放权重 LLM 推理能效实测:86 个模型在 7 项基准与 6 类硬件上的能耗差异报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.AI开放权重 LLM 推理能效实测:86 个模型在 7 项基准与 6 类硬件上的能耗差异
研究直接测量了 86 个开放权重模型检查点在 7 项基准和 6 类硬件(从消费级 GPU 到八卡服务器)上的推理能耗,发现能力相近的模型能效差异巨大,多数配置比同等得分的最优配置多耗 2.6–4.8 倍能量,差距最高达 27 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。