arXiv cs.LG· Siva Rajesh Kasa, Santhosh Kumar Kasa, Karan Gupta·· 7 小时前AI 评分22
CopRoute:面向语言模型的依赖感知保形路由
CopRoute: Dependence-Aware Conformal Routing for Language Models
AI 导读
CopRoute 是一种依赖感知的保形路由方法,按每个模型新增正确回答的查询数排序,再逐查询决定截断位置,从而在控制全失败风险的同时减少推理调用。在 RouterBench 和 RouterEval 上,目标风险 0.05 时十个数据集有九个、0.10 时十个有八个取得最少认证调用数,相比 SOTA 风险受控策略最多减少 79% 调用(中位数 24%)。
来源:arXiv cs.LG · arxiv.org