arXiv cs.LG· Ajay Narayanan Sridhar, Ronak Singh, Mehrdad Mahdavi, Vijaykrishnan Narayanan·· 7 小时前AI 评分25
面向 LLM 路由的相关性感知上下文老虎机与代理奖励
Correlation-Aware Contextual Bandits with Surrogate Rewards for LLM Routing
AI 导读
研究针对 LLM 路由场景，提出利用代理奖励信号的相关性感知上下文老虎机算法，允许臂间存在上下文相关的关联。方法包含耦合奖励混合与解耦预测混合两种设计，后者在代理信号失配时仍能保持与纯老虎机方法相当的遗憾界，信号可靠时则更优。在 LLM 路由基准上，该方法相比标准上下文老虎机基线和强静态路由方法，样本效率更高，准确率-成本权衡更优。
来源：arXiv cs.LG · arxiv.org