跳到正文
arXiv cs.CV· Albert Ge, Akash Haridas, Utkarsh Saxena, Ruijing Yang, Ian Colbert, Frederic Sala, Vikram Appia, Emad Barsoum·· 2 小时前AI 评分22

Coral-KV:面向自回归视频 KV 缓存的紧凑跨层预测与残差编码

CORAL-KV: Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches

AI 导读

Coral-KV 是一种视频 KV 缓存压缩框架,利用每层缓存状态预测后续层的 key 和 value,再对预测残差做量化,并构建 block-DPLR 预测器。

来源:arXiv cs.CV · arxiv.org