arXiv cs.CL· Maayan Sharon, Tom Hope·· 5 小时前AI 评分22
RATIO:科学文献中跨类型构思操作的检索基准
RATIO: A Benchmark for Retrieval Across Typed Ideation Operations in Scientific Literature
AI 导读
研究者发布 RATIO 基准,将科学文献检索的相关性定义为三种"构思操作":Address 检索问题潜在解法、Broaden 检索更通用的表述、Specify 检索具体实例。该基准基于数百万篇 CS 全文论文构建,结合 LLM 与人工审核。实验显示操作专属微调显著提升检索器,LLM 重排序进一步增益,但仍有较大提升空间;盲测研究者认为微调后的候选结果更具启发价值。
来源:arXiv cs.CL · arxiv.org