跳到正文
arXiv cs.CL· Seunghan Kim, Minyeong Choe, Hyunil Kim, Haehyun Cho·· 4 小时前AI 评分24

Bridge Routing Heads:多语言多跳推理在 LLM 中的位置

Bridge Routing Heads: Where Multilingual Multi-hop Reasoning Lives in LLMs

AI 导读

研究在 Llama 3.1 70B 和 Qwen 2.5 72B 中识别出 Bridge Routing Heads(BRH),其语言专属头集在五种语言间近乎互斥,平均 Jaccard 相似度仅 0.017 和 0.057。

来源:arXiv cs.CL · arxiv.org