研究者提出组合式数据选择框架CDS
热点事件持续更新
研究者提出组合式数据选择框架CDS
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
研究者 Luyang Zhang 等提出组合式数据选择(CDS)框架,将 LLM 微调数据选择中的样本评分(归因)与子集挑选(选择)分开,并建模样本间的非加性交互,以应对样本跨域互补与域内冗余并存的问题。 基于该框架,他们提出两阶段算法 Mixture-then-Select:先决定各域的采样数量,再按归因分数在域内排序。作者称,该算法在真实指令微调数据池上比强基线高出 20% 至 54%,对归因方法、模型和数据池规模保持稳健,并可扩展至预算约束下的数据采购问题。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
Pick the Mixture, Not the Samples:面向 LLM 的组合式数据选择报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.AIPick the Mixture, Not the Samples:面向 LLM 的组合式数据选择
针对 LLM 微调数据选择中样本跨域互补与域内冗余并存的现象,研究者将其形式化为组合式数据选择(CDS)框架,并提出两阶段算法 Mixture-then-Select:先决定各域采样数量,再按归因分数在域内排序。该算法在真实指令微调数据池上比强基线高出 20% 至 54%,且对归因方法、模型和数据池规模均保持稳健,并可扩展至预算约束下的数据采购问题。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。