免训练方法缓解监督微调遗忘
热点事件持续更新
免训练方法缓解监督微调遗忘
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
研究者提出一种免训练方法 SFT-as-context，让父模型以监督微调（SFT）模型的回答作为上下文来作答，从而在通过上下文学习获得微调能力的同时保留自身通用能力。 在 19 组父-SFT 模型对和 11 个基准上，该方法在 AIME 2024 和 LiveCodeBench 上分别仅落后 SFT 模型 2.2 和 2.1 个百分点，通用能力平均与父模型差距在 2.2 个百分点以内。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 12:00
SFT-as-Context：一种免训练方法缓解监督微调中的灾难性遗忘报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- arXiv cs.LGSFT-as-Context：一种免训练方法缓解监督微调中的灾难性遗忘
研究者提出免训练方法 SFT-as-context，让父模型以 SFT 模型的回答为上下文来作答，从而在通过上下文学习获得微调能力的同时保留自身通用能力。在 19 组父-SFT 模型对和 11 个基准上，该方法在 AIME 2024 和 LiveCodeBench 上仅落后 SFT 模型 2.2 和 2.1 个百分点，通用能力平均与父模型差距在 2.2 个百分点以内。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。