跳到正文
热点事件持续更新

KV4-RL用INT4量化加速RLVR异步rollout

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Sihwan Park 等作者提出 KV4-RL,将免校准 INT4 KV 缓存量化与对 attention sinks 及近期上下文的 INT8 选择性保护结合,用于加速 RLVR 的异步 rollout。 在 Qwen3-8B-Base 的 400 轮 GRPO 训练中,该方法实现 1.80 倍累计 rollout 加速和 1.27 倍全迭代加速,最后 50 轮 rollout 加速达 1.97 倍。

AI 根据报道生成 · 58 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    KV4-RL:用 INT4 KV Cache 量化加速 RLVR 异步 Rollout

    KV4-RL 将免校准 INT4 KV 量化与对 attention sinks 及近期上下文的 INT8 选择性保护结合,在 Qwen3-8B-Base 的 400 轮 GRPO 训练中实现 1.80 倍累计 rollout 加速和 1.27 倍全迭代加速,最后 50 轮 rollout 加速达 1.97 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。