arXiv cs.AI· Avyay M. Casheekar, Hariganesh Tangirala·· 1 天前AI 评分24
多智能体博弈中如何学习上报不安全任务
Learning to Report Unsafe Tasks in a Multi-Agent Game
AI 导读
研究提出一种多智能体博弈框架:当任务的多名目击者共享策略并独立行动时,完全共享策略会被局部吸引至沉默,即便上报才是最优选择。作者给出足以让精确策略梯度更新收敛到全员上报的审计条件,并用 PPO 在 24 个目击者图上验证:将共同目击者分置于不同网络的目击者分组,相比同规模打乱分组将不安全任务完成率降低 33.59 个百分点(95% 图自助区间 21.03-45.13)。
来源:arXiv cs.AI · arxiv.org