ReasoningShield 基准与轻量模型发布
热点事件持续更新
ReasoningShield 基准与轻量模型发布
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
研究者 Changyi Li 等人发布 ReasoningShield，一个用于检测大型推理模型（LRM）思维链（CoT）中隐藏有害内容的基准，以及配套的 1B/3B 轻量审核模型。 该基准含 9.2K 条标注（Query, CoT）对，由 7K 训练样本和 2.2K 人工标注测试集组成，覆盖 10 类风险、3 个安全等级和 8 个 LRM。作者称，采用两阶段训练策略的 1B/3B 模型在该基准上达到 91.8% F1，分别超出 LlamaGuard-4 35.6% 和 GPT-4o 15.8%。 项目页面、代码、模型与数据集均已公开。
AI 根据报道生成 · 54 分钟前更新
最新进展10月12日 12:00
ReasoningShield：面向大型推理模型推理轨迹的安全检测基准与轻量模型报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv cs.CLReasoningShield：面向大型推理模型推理轨迹的安全检测基准与轻量模型
针对大型推理模型（LRM）的思维链（CoT）推理轨迹中可能隐藏有害内容的问题，研究者发布 ReasoningShield 基准与轻量审核模型。该基准含 9.2K 条标注（Query, CoT）对，覆盖 10 类风险、3 个安全等级和 8 个 LRM。基于两阶段训练策略的 1B/3B 模型在本基准上达到 91.8% F1，分别超出 LlamaGuard-4 35.6% 和 GPT-4o 15.8%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。