跳到正文
arXiv cs.LG· Edan Kinderman, Elad Hoffer, Yochai Blau, Brian Chmiel, Ron Banner, Daniel Soudry, Boris Ginsburg·· 9 小时前AI 评分42

UNREAL:用单一模型统一检索与长上下文推理

UNREAL: Unifying Retrieval and Long-Context with a Single Model

AI 导读

研究者提出 UNREAL,一种模型原生的证据选择框架,从冻结 LLM 的内部表示直接编码 chunk 并生成检索 query,仅新增不到 500K 可训练参数且不改动主干。

来源:arXiv cs.LG · arxiv.org