CopRoute：依赖感知的模型路由方法

Siva Rajesh Kasa、Santhosh Kumar Kasa 和 Karan Gupta 提出 CopRoute，一种依赖感知的保形路由方法，用于在控制全失败风险的同时减少语言模型的推理调用。该方法按每个模型新增正确回答的查询数排序，再逐查询决定截断位置，并选取仍满足目标风险的最小截断点。 在 RouterBench 和 RouterEval 上，目标风险为 0.05 时十个数据集有九个、0.10 时十个有八个取得最少认证调用数，相比现有风险受控策略最多减少 79% 调用，中位数为 24%。作者称，现有风险受控策略忽略了模型间的依赖关系，CopRoute 正是针对这一点设计。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。