arXiv cs.AI· Andrea Wynn (Nathan), Harsh Satija (Nathan), Seokhyun (Nathan), Baek, Anqi Liu, Eric Nalisnick, Gillian K. Hadfield·· 3 小时前AI 评分31
LLM 的规范能力：多智能体社区辩论下的基础、设计与挑战
Reading the Room: Foundations, Design, and Challenges of Normative Competence in LLMs
AI 导读
研究提出多智能体社区辩论环境，用合成规范控制辩论准入，以在脱离预训练暴露的条件下考察 LLM 的规范能力。基线 LLM 智能体即使学习规范能提升准确率也未能学会，且规范遵循对规范风格和驱动规范模块的模型高度敏感，缺乏泛化性。当真实规范伴随非规范性个体行为时，LLM 智能体还会不加区分地连噪声一起模仿，即使明确惩罚也无济于事。
来源：arXiv cs.AI · arxiv.org