研究称指令微调模型无法采样分布

一项新发表的研究称，指令微调语言模型无法从其能够描述的分布中采样，而是坍缩为单一输出。作者Chaemin Jang等人报告，同一persona对同一问题在公开民调基准中超过一半条目给出相同答案，内部概率集中于单一选项。 研究称这一失败与指令导向的后训练相关并被放大：在各模型家族中，指令微调版均差于其基座模型，且随训练阶段和微调更新规模扩大而加剧。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。