OxyGen 提出统一 KV 缓存管理加速 VLA 推理
热点事件持续更新
OxyGen 提出统一 KV 缓存管理加速 VLA 推理
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Xiangyu Li 等作者提出并实现名为 OxyGen 的推理设计，面向 MoT 视觉-语言-动作模型的多任务并行推理，把 KV Cache 当作跨任务、跨控制周期共享的一等资源。 据该设计，跨任务 KV 共享可消除共享观测带来的冗余 prefill，跨帧连续批处理则用于推进未完成的语言请求，目标是加速 VLA 推理。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
OxyGen：面向多任务并行下 VLA 推理的统一 KV Cache 管理报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv cs.AIOxyGen：面向多任务并行下 VLA 推理的统一 KV Cache 管理
OxyGen 提出统一 KV Cache 管理，将 KV Cache 视为跨任务、跨控制周期共享的一等资源，通过跨任务 KV 共享消除共享观测的冗余 prefill，并用跨帧连续批处理推进未完成的语言请求。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。