研究称LLM代码生成存在可复用抽象表征

一项新研究提出，大语言模型生成代码时，其中间层激活会形成可复用、可组合的抽象表示，这些表示跨编程语言通用，并赋予模型较强的泛化能力。 作者Casper L. Christensen等人称，通过激活引导（activation steering），函数、编程语言和实现策略可被独立操控，语言与函数的干预能灵活组合，即使提示词中不含语言和函数信息也能控制代码生成。研究还发现，在一种语言上对任意定义函数进行微调可迁移到其他语言，与模型复用跨语言共享抽象特征的说法一致。 上述结论来自论文作者的实验与表述，尚未经独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。