arXiv cs.LG· Neha Verma, Sungwon Kim, Kenton Murray, Kevin Duh·2026-10-09 12:00· 3 小时前AI 评分27

VFold：对称感知的跨层 Value Cache 压缩

VFold: Symmetry-Aware Cross-Layer Value Cache Compression

AI 导读

VFold 提出一种对称感知的 value cache 合并策略，在解码阶段压缩 KV cache 内存，且无需改动 LLM 架构、不带来明显性能下降。该方法可与高比例量化或 key cache 剪枝等现有压缩技术叠加，达到单一方法无法实现的压缩比，额外开销极小。

来源：arXiv cs.LG · arxiv.org