预注册研究:提示优化器损害未评分要求
热点事件持续更新
预注册研究:提示优化器损害未评分要求
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
一项预注册研究测试了 GEPA、MIPROv2 和 TextGrad 三种提示词优化器,发现它们在提升被评分指标的同时,会破坏未被评分的需求。研究在 HotpotQA、SQuAD 2.0 和 IFEval 上按预注册标准统计逐条违规,三者均出现回归。 在 HotpotQA 上,引用有效性的净回归达 10.7 至 41.6 分,而 exact match 反而上升 21 至 34 分。该研究由 Sangdo Han 和 Moonsoo Kim 发表。 这意味着优化器可能以牺牲未被评分的要求为代价换取评分指标的提升,评估提示优化效果时需同时检查未纳入评分的约束。
AI 根据报道生成 · 58 分钟前更新
最新进展10月12日 12:00
提示词优化器会破坏未被评分的需求吗?一项预注册研究报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv cs.CL提示词优化器会破坏未被评分的需求吗?一项预注册研究
预注册研究将 GEPA、MIPROv2、TextGrad 用于 HotpotQA、SQuAD 2.0 和 IFEval,按预注册标准三者均出现回归:HotpotQA 上引用有效性净回归达 10.7 至 41.6 分,而 exact match 反升 21 至 34 分。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。