PReCache:多LoRA Agent的KV缓存共享框架
热点事件持续更新
PReCache:多LoRA Agent的KV缓存共享框架
1 篇报道1 个报道来源9 小时前更新
先了解这件事
报道摘要
PReCache 是一个免训练的 KV cache 共享框架,通过 PreLRShared 和 ReBaseShared 两种设计共享基于预训练权重计算的 base cache,并预计算紧凑的智能体专属低秩(LR)cache。
摘自 arXiv cs.LG
最新进展10月7日 12:00
PReCache:面向多 LoRA 智能体的免训练 KV cache 共享框架报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- arXiv cs.LGPReCache:面向多 LoRA 智能体的免训练 KV cache 共享框架
PReCache 是一个免训练的 KV cache 共享框架,通过 PreLRShared 和 ReBaseShared 两种设计共享基于预训练权重计算的 base cache,并预计算紧凑的智能体专属低秩(LR)cache。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。