arXiv cs.CL· Davide Baldelli, Robyn Kozierok, Mirko Bronzi, Damiano Fornasiere·· 5 小时前AI 评分29
跨模型上下文神经反馈实验揭示 LLM 对自身激活的（有限）控制能力
Cross-Model In-Context Neurofeedback Reveals (Limited) Activation Control in LLMs
AI 导读
研究者用上下文神经反馈实验测试了来自 5 个模型家族、规模 9B 至 32B 的十款开源权重模型能否控制自身激活。在固定句子预填充条件下，十款模型中有三款表现出小幅但一致的激活控制效果。在欺骗监测器测试中，没有模型能降低监测分数，但有一款模型可以将其提高。
来源：arXiv cs.CL · arxiv.org