FlowWise流式有状态模型服务系统论文发布

Shinan Liu等作者发布论文，介绍面向流式有状态流量智能的服务系统FlowWise。该系统采用不确定性驱动的快慢级联：先用单包模型给出早期预测，仅将不确定的流升级到等待更多数据包的慢模型，以平衡延迟、服务速率和准确率。 论文称，FlowWise能在16毫秒内服务76.3%的流，中位端到端延迟改善40.5倍，单台16核CPU服务器每秒可承载超过48.5k新流。代码已开源。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。