arXiv stat.ML· Leonardo Torti, Emanuele Rimoldi, Tomer Galanti, Tomaso Poggio, Pierfrancesco Beneventano·· 5 小时前AI 评分22
嵌入几何如何影响 LLM 路由：追踪失败模式并提升泛化能力
Embedding Geometry Shapes LLM Routing: Tracing Failure Modes and Improving Generalization
AI 导读
研究发现，基于语义嵌入的 LLM 路由方法在分布内表现稳健，但难以泛化到未见任务，其失败根源在于决定近邻的特征无法可靠代理模型选择。为此，作者改用 Qwen2.5-7B-Instruct 对提示词做部分前向传播，取深层最后一个 token 的隐藏状态作为表示，在 RouterBench 上 kNN 及另一简单分类器的泛化性能平均提升，并超越所有评测的语义嵌入基线及近期 SoTA 隐藏状态路由器。
来源：arXiv stat.ML · arxiv.org