arXiv cs.AI· Shuxin Liu, Qing Liu, Yi Du, Ou Wu·· 9 小时前AI 评分24
CORE：面向 KV Cache 的覆盖校准保留与淘汰质量重分配方法
One Distribution, Two Channels: Coverage-Calibrated KV Retention and Compensation
AI 导读
针对长上下文解码中 KV cache 的内存与带宽瓶颈，CORE 提出用同一校准分布同时驱动保留与补偿两个通道：Top-B 排序保留互补 KV 状态，被排除的分配质量与条件权重直接参数化潜在记忆写入，无需单独的写入权重预测器或在线 log-determinant 评估。
来源：arXiv cs.AI · arxiv.org