跳到正文
热点事件持续更新

开放权重LLM推理能效实测:同分模型耗能差27倍

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

一项新研究直接测量了86个开放权重模型检查点在7项基准和6类硬件(从消费级GPU到八卡服务器)上的推理能耗,发现能力相近的模型之间能效差异巨大:多数配置比同等得分的最优配置多耗2.6至4.8倍能量,差距最高达27倍。 该研究由Zeyu Yang和Wes Armour发表,结论基于对上述模型与硬件的实测,而非估算。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    开放权重 LLM 推理能效实测:86 个模型在 7 项基准与 6 类硬件上的能耗差异

    研究直接测量了 86 个开放权重模型检查点在 7 项基准和 6 类硬件(从消费级 GPU 到八卡服务器)上的推理能耗,发现能力相近的模型能效差异巨大,多数配置比同等得分的最优配置多耗 2.6–4.8 倍能量,差距最高达 27 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。