CORE提出KV缓存覆盖校准与淘汰质量重分配
热点事件持续更新
CORE提出KV缓存覆盖校准与淘汰质量重分配
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Shuxin Liu等作者发布论文,提出面向长上下文解码的KV缓存压缩方法CORE(覆盖校准与淘汰质量重分配)。该方法针对KV cache的内存与带宽瓶颈,用同一校准分布同时驱动保留与补偿两个通道。 据论文描述,CORE通过Top-B排序保留互补KV状态,并将被排除部分的质量与条件权重直接参数化写入潜在记忆,从而无需单独的写入权重预测器或在线log-determinant评估。作者称,该方法把结合查询效用与log-determinant覆盖度的离线分配蒸馏为一个轻量级的缓存感知索引器。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
CORE:面向 KV Cache 的覆盖校准保留与淘汰质量重分配方法报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.AICORE:面向 KV Cache 的覆盖校准保留与淘汰质量重分配方法
针对长上下文解码中 KV cache 的内存与带宽瓶颈,CORE 提出用同一校准分布同时驱动保留与补偿两个通道:Top-B 排序保留互补 KV 状态,被排除的分配质量与条件权重直接参数化潜在记忆写入,无需单独的写入权重预测器或在线 log-determinant 评估。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。