arXiv cs.CL· Amanda Myntti, Jenna Kanerva, Veronika Laippala, Filip Ginter·· 4 小时前AI 评分22
嵌入模型为何不听从检索指令：查询侧干扰项的影响与微调改进
Your Prompt Should Do More: Effects of Retrieval Instructions in Embedding Models
AI 导读
研究发现，带提示词的嵌入模型在非对称检索任务中，即使面对简单任务指令，只要评估时加入查询侧干扰项，模型就可能无法可靠遵循指令。作者认为这一行为源于当前嵌入模型的训练与评估设置，并证明加入查询侧干扰项进行微调可带来显著提升，且对其他任务影响极小。
来源：arXiv cs.CL · arxiv.org