跳到正文
热点事件持续更新

新方法用评分反馈追踪蒸馏模型

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Yuejia Li 等作者提出名为 Radioactive Feedback 的方法:在 LLM-as-a-Judge 给出的奖励分数中编码注册好的行为偏好模式,使仅凭标量分数训练的学生模型也能继承该模式。作者称,在代码与数学实验中,这些偏好仅通过分数即可跨数据集迁移,并支持针对固定参考池的黑盒检测。 该方法针对的是现有水印与蒸馏检测器无法覆盖的纯分数反馈通道,即学生模型只拿到评分、看不到教师模型输出的场景。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    Radioactive Feedback:仅凭评分反馈的 LLM 蒸馏如何留下可检测的行为痕迹

    研究提出 Radioactive Feedback,通过在 LLM-as-a-Judge 的奖励分数中编码注册好的行为偏好模式,使仅凭标量分数训练的学生模型也能继承该模式。在代码与数学实验中,这些偏好仅通过分数即可跨数据集迁移,并支持针对固定参考池的黑盒检测。该方法针对的是现有水印与蒸馏检测器无法覆盖的纯分数反馈通道。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。