跳到正文
热点事件持续更新

蒸馏推断检测未授权模型蒸馏研究

1 篇报道1 个报道来源2 小时前更新

先了解这件事

报道摘要

研究提出"蒸馏推断",通过假设检验判断嫌疑模型是否蒸馏自专有 LLM:蒸馏影子模型学习教师推理轨迹,独立影子模型只学参考答案,审计者据此将嫌疑模型得分转换为校准 p 值。以 Qwen2.5-7B 为教师、Llama-3.2-3B 为嫌疑模型的初步研究中,该检验在 0.02 显著性水平下真阳性率达 1.0,验证了检测蒸馏攻击的可行性。

摘自 arXiv cs.LG

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv cs.LG
    用影子模型检测 LLM 蒸馏:Qwen2.5-7B 与 Llama-3.2-3B 初步研究

    研究提出"蒸馏推断",通过假设检验判断嫌疑模型是否蒸馏自专有 LLM:蒸馏影子模型学习教师推理轨迹,独立影子模型只学参考答案,审计者据此将嫌疑模型得分转换为校准 p 值。以 Qwen2.5-7B 为教师、Llama-3.2-3B 为嫌疑模型的初步研究中,该检验在 0.02 显著性水平下真阳性率达 1.0,验证了检测蒸馏攻击的可行性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。