arXiv cs.LG· Edan Kinderman, Elad Hoffer, Yochai Blau, Brian Chmiel, Ron Banner, Daniel Soudry, Boris Ginsburg·· 9 小时前AI 评分42
UNREAL:用单一模型统一检索与长上下文推理
UNREAL: Unifying Retrieval and Long-Context with a Single Model
AI 导读
研究者提出 UNREAL,一种模型原生的证据选择框架,从冻结 LLM 的内部表示直接编码 chunk 并生成检索 query,仅新增不到 500K 可训练参数且不改动主干。
来源:arXiv cs.LG · arxiv.org