KV-Repurpose：非前缀KV缓存复用测试平台
热点事件持续更新
KV-Repurpose：非前缀KV缓存复用测试平台
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
研究团队发布开源系统 KV-Repurpose，用于开发和评估超越精确前缀的按段 KV-cache 复用，代码以 Apache-2.0 许可开源。 在 20% 请求共享固定前缀的 Zipfian RAG 负载下，30 GB 缓存容量时其 token 级缓存命中率达 63.9%，而前缀缓存仅 3.3%；即使缓存容量扩至 1 TB，前缀缓存命中率也只有 17.9%。
AI 根据报道生成 · 59 分钟前更新
最新进展10月12日 12:00
KV-Repurpose：评估非前缀 KV-Cache 复用的测试平台报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv cs.CLKV-Repurpose：评估非前缀 KV-Cache 复用的测试平台
基于 vLLM 的开源系统 KV-Repurpose 发布，用于开发和评估超越精确前缀的按段 KV-cache 复用。在 20% 请求共享固定前缀的 Zipfian RAG 负载下，30 GB 缓存容量时其 token 级缓存命中率达 63.9%，而前缀缓存仅 3.3%；即使缓存容量扩至 1 TB，前缀缓存命中率也只有 17.9%。代码以 Apache-2.0 许可开源。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。