arXiv cs.AI· Sihwan Park, Sung-Yub Kim, Doohyuk Jang, Eunho Yang·2026-10-15 12:00· 8 小时前AI 评分27

KV4-RL：用 INT4 KV Cache 量化加速 RLVR 异步 Rollout

KV4-RL: Unlocking Faster Asynchronous Rollouts for RLVR with INT4 KV Cache Quantization

AI 导读

KV4-RL 将免校准 INT4 KV 量化与对 attention sinks 及近期上下文的 INT8 选择性保护结合，在 Qwen3-8B-Base 的 400 轮 GRPO 训练中实现 1.80 倍累计 rollout 加速和 1.27 倍全迭代加速，最后 50 轮 rollout 加速达 1.97 倍。

来源：arXiv cs.AI · arxiv.org

千问 Qwen 推理能力数据与训练论文研究 #论文/研究 #推理 #数据/训练