研究提出智能体反思均衡对齐框架ARE

纽约大学的研究者 Quanyan Zhu 在 arXiv 发表论文，提出智能体反思均衡（ARE）框架，用于智能体的伦理对齐。该框架把系统提示词和运营策略中的原则、审慎判断、工具证据与候选动作，通过带类型的支持与攻击关系连接起来，作为智能体 harness 中的对齐支架。 论文将 ARE 定位为一种计算式反思均衡框架，目前仅给出框架设计，未报告实验验证或实际部署效果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。