研究提出用LLM隐藏状态替代语义嵌入做路由
热点事件持续更新
研究提出用LLM隐藏状态替代语义嵌入做路由
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
一项 arXiv 论文提出，用大模型自身隐藏状态替代语义嵌入来做 LLM 路由。作者 Leonardo Torti 等称，基于语义嵌入的路由方法在分布内表现稳健，但难以泛化到未见任务，原因是决定近邻的特征无法可靠代理模型选择。 为此，作者对提示词做 Qwen2.5-7B-Instruct 的部分前向传播，取深层最后一个 token 的隐藏状态作为表示。在 RouterBench 上，kNN 及另一简单分类器的泛化性能平均提升，并超过所有评测的语义嵌入基线及近期 SoTA 隐藏状态路由器。
AI 根据报道生成 · 3 小时前更新
最新进展10月15日 12:00
嵌入几何如何影响 LLM 路由：追踪失败模式并提升泛化能力报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv stat.ML嵌入几何如何影响 LLM 路由：追踪失败模式并提升泛化能力
研究发现，基于语义嵌入的 LLM 路由方法在分布内表现稳健，但难以泛化到未见任务，其失败根源在于决定近邻的特征无法可靠代理模型选择。为此，作者改用 Qwen2.5-7B-Instruct 对提示词做部分前向传播，取深层最后一个 token 的隐藏状态作为表示，在 RouterBench 上 kNN 及另一简单分类器的泛化性能平均提升，并超越所有评测的语义嵌入基线及近期 SoTA 隐藏状态路由器。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。