UNICAMP 研究:AI 聊天机器人会随用户政治倾向改变回答
巴西国立坎皮纳斯州立大学研究人员测试了21个模型对112项政治陈述的判断,发现几乎所有模型都会向提示中描述的政治倾向靠拢,被形容为“意识形态变色龙”。在不提供用户政治倾向时,21个模型中有20个答案落在政治坐标系左侧,Grok 4.1是唯一落在右侧的模型。
巴西国立坎皮纳斯州立大学研究人员测试了21个模型对112项政治陈述的判断,发现几乎所有模型都会向提示中描述的政治倾向靠拢,被形容为“意识形态变色龙”。在不提供用户政治倾向时,21个模型中有20个答案落在政治坐标系左侧,Grok 4.1是唯一落在右侧的模型。
Google 研究者提出 RRSI(Regularized Recursive Self-Improvement of Agent Harnesses),通过随时间收缩的编辑预算和严格评审机制,限制智能体在自我改进中记忆测试任务。