AttSVD：注意力引导的低秩KV缓存压缩
热点事件持续更新
AttSVD：注意力引导的低秩KV缓存压缩
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Sara Abdali 等人提出一种免训练的低秩 KV Cache 压缩方法 AttSVD，其压缩基由每个提示词自身的注意力几何在线截断 SVD 得到，只保留注意力实际读取的方向，从而按保留秩成比例削减每头持久 KV 内存。 该方法被提出者称为“可解释”的低秩压缩，目前报道中未给出压缩率、精度损失或与其他方法的对比结果。
AI 根据报道生成 · 3 小时前更新
最新进展10月7日 12:00
AttSVD：基于注意力引导 SVD 的提示自适应低秩 KV Cache 压缩报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv cs.AIAttSVD：基于注意力引导 SVD 的提示自适应低秩 KV Cache 压缩
AttSVD 提出一种免训练的低秩 KV Cache 压缩方法，通过对每个提示词自身的注意力几何做在线截断 SVD，只保留注意力真正读取的方向，将每头持久 KV 内存按保留秩成比例削减。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。