arXiv cs.AI· Abhilash Jindal, Todd Nief, Bhanu Prakash Vangala, Shankaradithyaa V, Tvisha Malik, Anshik Sahu, Aaron Schein, Amitabh Chaudhary, Tanu Malik·· 9 小时前AI 评分22
FlexiFlow:基于多臂老虎机的 ML 工作流模型动态切换
FlexiFlow: Bandit-based Model Switching in ML Workflows
AI 导读
FlexiFlow 是一个数据流系统,能在当前模型准确率偏低时动态切换到备选模型,通过多臂老虎机方法对模型进行排序,综合考虑模型运行时间、通过用户自定义断言的概率以及 ML 工作流的计算结构。实验显示,切换模型可将工作流准确率提升最高 23%,运行时复用中间结果相比顺序执行工作流还能带来 48% 的效率提升。
来源:arXiv cs.AI · arxiv.org