跳到正文
热点事件持续更新

CORE提出KV缓存覆盖校准与淘汰质量重分配

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

Shuxin Liu等作者发布论文,提出面向长上下文解码的KV缓存压缩方法CORE(覆盖校准与淘汰质量重分配)。该方法针对KV cache的内存与带宽瓶颈,用同一校准分布同时驱动保留与补偿两个通道。 据论文描述,CORE通过Top-B排序保留互补KV状态,并将被排除部分的质量与条件权重直接参数化写入潜在记忆,从而无需单独的写入权重预测器或在线log-determinant评估。作者称,该方法把结合查询效用与log-determinant覆盖度的离线分配蒸馏为一个轻量级的缓存感知索引器。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    CORE:面向 KV Cache 的覆盖校准保留与淘汰质量重分配方法

    针对长上下文解码中 KV cache 的内存与带宽瓶颈,CORE 提出用同一校准分布同时驱动保留与补偿两个通道:Top-B 排序保留互补 KV 状态,被排除的分配质量与条件权重直接参数化潜在记忆写入,无需单独的写入权重预测器或在线 log-determinant 评估。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。