跳到正文
热点事件持续更新

ReSI递归安全改进框架发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

研究者提出递归安全改进框架 ReSI,通过自动化研究循环对模型进行多轮红队测试、训练配方开发与安全更新。在四款稠密与 MoE 模型上,ReSI 将 X-Teaming 平均攻击成功率从 86.01% 降至 31.45%,低于 GPT-5.6-Luna 的 56.69%。 据研究者称,ReSI 在分布内与分布外安全基准上追平或超越所评估的前沿模型,并在几乎全部安全评测中优于对齐基线,同时基本保留通用能力。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv cs.AI
    ReSI:面向抗攻击与韧性 AI 的递归安全改进框架

    研究者提出递归安全改进框架 ReSI,通过自动化研究循环对模型进行多轮红队测试、训练配方开发与安全更新,在四款稠密与 MoE 模型上将 X-Teaming 平均攻击成功率从 86.01% 降至 31.45%,低于 GPT-5.6-Luna 的 56.69%。ReSI 在分布内与分布外安全基准上追平或超越所评估的前沿模型,并在几乎全部安全评测中优于对齐基线,同时基本保留通用能力。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。