arXiv cs.AI· June Hunter, Lily Wen, Owen Terry, Johannes Taraz, Ben Cohen, Niels Warncke·· 8 小时前AI 评分32
语言模型倾向的分布外泛化如何预测:一项跨模型与跨诱导方法的实证研究
Predicting how model propensities generalize out of distribution
AI 导读
研究用系统提示词、few-shot、SFT 和 GRPO 等手段在模型中放大某一倾向,再通过交叉诱导矩阵测量其向其他倾向的溢出。相同诱导方法下不同模型的溢出高度相关,而 SFT 与 GRPO 会产生不同的溢出模式;训练模型自称有感知常使其更追求权力。
来源:arXiv cs.AI · arxiv.org