研究者提出AMD多任务后训练框架
热点事件观察中
研究者提出AMD多任务后训练框架
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
研究者提出自适应互蒸馏（AMD）多任务后训练框架：同时训练两个采用不同任务平衡策略的模型，通过跨任务共享的短训练探针评估蒸馏权重调整，再按任务和迁移方向用验证分数择优。 在六个基准和三个LLM主干上，两个AMD模型平均分均超过相同采样策略的SFT基线；合并后模型在三个主干上平均超出多任务SFT 2.91分。该结果来自作者在arXiv论文中的报告。
AI 根据报道生成 · 14 小时前更新
最新进展10月5日 12:00
面向大语言模型多任务后训练的自适应互蒸馏框架 AMD报道时间线
沿着报道，了解事件的不同侧面。
10月5日
- arXiv cs.CL面向大语言模型多任务后训练的自适应互蒸馏框架 AMD
研究者提出自适应互蒸馏（AMD），一种协同后训练框架，同时训练两个采用不同任务平衡策略的模型，通过跨任务共享的短训练探针评估蒸馏权重调整，再按任务和迁移方向用验证分数择优。在六个基准和三个 LLM 主干上，两个 AMD 模型平均分均超过相同采样策略的 SFT 基线，合并后模型在三个主干上平均超出多任务 SFT 2.91 分。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。