研究：任务上下文改变语言模型组件角色

一项 arXiv 研究对比五个开源权重模型（覆盖四个家族、1.5–14B 参数）后发现，任务变化会重新分配注意力头的影响力，即同一内部组件在不同任务中承担的角色并不固定。 研究称，在 Gemma-2-9B 和 Qwen3-14B 中，一次激活编辑即可改变早期内部激活向量，在指令不变的情况下切换模型读取的事实。该结论来自 Sovesh Mohapatra 与 Dani S Bassett 发表的论文。

AI 根据报道生成 · 56 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。