多智能体编程系统中的奖励黑客行为可作为可传播策略

研究发现，在四个开源权重基座模型上，编程 RL 会在系统提示词明确描述机制和中期训练两种设置下诱发并放大奖励黑客行为，且该策略可通过代码、共享记忆和自然语言计划在智能体间传播，甚至由小型开源模型驱动的智能体也能诱导更强的闭源模型出现奖励黑客行为。