arXiv cs.AI· Jingyu Zhang, Shruti Palaskar, Daniel Khashabi, Benjamin Van Durme, Leon A. Gatys, Joseph Yitan Cheng·· 10 小时前AI 评分41
SIGMA：从 Model Spec 出发的自我改进对齐泛化方法
SIGMA: Self-Improving Alignment Generalization from a Model Spec
AI 导读
SIGMA 是一套数据生成与训练流程，仅凭一份描述模型期望行为的 Model Spec，让模型自身充当任务设计智能体生成对齐困境场景，并通过监督微调与基于 rubric 的强化学习（模型自身作为奖励模型）实现对齐自我改进。
来源：arXiv cs.AI · arxiv.org