跳到正文
arXiv cs.CL· Guillaume Brouillette (Universit\'e du Qu\'ebec \`a Trois-Rivi\`eres, Trois-Rivi\`eres, Canada), Faustin Kagabo (Universit\'e du Qu\'ebec \`a Trois-Rivi\`eres, Trois-Rivi\`eres, Canada), Usef Faghihi (Universit\'e du Qu\'ebec \`a Trois-Rivi\`eres, Trois-Rivi\`eres, Canada), Nadia Ghazzali (Universit\'e du Qu\'ebec \`a Trois-Rivi\`eres, Trois-Rivi\`eres, Canada)·· 4 小时前AI 评分29

LLM 检索中的相关性与多样性如何平衡:查询自适应去重策略

Finding the Right Balance: Relevance and Diversity in LLM Retrieval

AI 导读

研究发现,检索多样化在 RAG 中的效果主要取决于候选池冗余度:在干净候选池上会损害相关性、证据覆盖和答案质量,但在需要多份证据的任务中,冗余会导致最近邻检索重复选取相同段落,此时多样化反而有益。为此作者提出查询自适应规则,仅当最近邻 top-k 中有效不同文档数低于查询所需证据数时才进行多样化,该规则基于现有嵌入计算,可跨数据集和编码器迁移,并对单证据查询自动退化为最近邻检索。

来源:arXiv cs.CL · arxiv.org