跳到正文
热点事件持续更新

研究者提出GRASP方法去除微调中的虚假相关

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

研究者提出一种名为 GRASP(GRadient Projection of Associated Spurious Patterns)的方法,用于在微调中识别并移除虚假相关。据作者 Ciarán M. Gilligan-Lee 等称,该方法无需监督,可从朴素 LoRA 微调权重中识别虚假相关的潜在因子,并通过梯度投影阻止模型新增对该因子的依赖,同时保留预训练内容。 该工作发布在 arXiv stat.ML 上,作者称已对方法进行验证。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv stat.ML
    无需监督识别并移除微调中的虚假相关:GRASP 方法

    研究者提出 GRASP(GRadient Projection of Associated Spurious Patterns),可在无监督条件下从朴素 LoRA 微调权重中识别虚假相关的潜在因子,并通过梯度投影阻止模型新增对该因子的依赖,同时保留预训练内容。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。