跳到正文
热点事件持续更新

研究:小模型多次生成加验证可追平大模型

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

一项 arXiv 研究提出“验证重试”方法:让更小或更压缩的模型并行生成多个候选答案,再用公开或模型自生成的测试筛选输出,以在内存受限时恢复部分能力。 在四个代码生成基准上,7B Qwen 模型并行尝试八次后,在 MBPP+ 上基本追平 32B 模型,并在其余三个基准上超过它;同时模型内存占用约少 4 倍,运行最高快 6 倍,能耗更低(基于 Nvidia GPU 测量)。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    少比特多尝试:内存受限下用验证重试恢复模型能力

    一项 arXiv 研究提出"验证重试":让更小或更压缩的模型并行生成多个候选答案,再用公开或模型自生成的测试筛选输出,从而在内存受限时恢复部分能力。在四个代码生成基准上,7B Qwen 模型并行尝试八次后,在 MBPP+ 上基本追平 32B 模型,并在其余三个基准上超过它,同时模型内存占用约少 4 倍、运行最高快 6 倍、能耗更低(基于 Nvidia GPU 测量)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。