跳到正文
arXiv cs.AI· Yuejia Li, JunHeng Li, Hao Wu, Ke He, Mang Ye·· 8 小时前AI 评分26

Radioactive Feedback:仅凭评分反馈的 LLM 蒸馏如何留下可检测的行为痕迹

Radioactive Feedback: Tracing Models Trained by Label-Only LLM Supervision

AI 导读

研究提出 Radioactive Feedback,通过在 LLM-as-a-Judge 的奖励分数中编码注册好的行为偏好模式,使仅凭标量分数训练的学生模型也能继承该模式。在代码与数学实验中,这些偏好仅通过分数即可跨数据集迁移,并支持针对固定参考池的黑盒检测。该方法针对的是现有水印与蒸馏检测器无法覆盖的纯分数反馈通道。

来源:arXiv cs.AI · arxiv.org