ReSI递归安全改进框架发布
热点事件持续更新
ReSI递归安全改进框架发布
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
研究者提出递归安全改进框架 ReSI,通过自动化研究循环对模型进行多轮红队测试、训练配方开发与安全更新。在四款稠密与 MoE 模型上,ReSI 将 X-Teaming 平均攻击成功率从 86.01% 降至 31.45%,低于 GPT-5.6-Luna 的 56.69%。 据研究者称,ReSI 在分布内与分布外安全基准上追平或超越所评估的前沿模型,并在几乎全部安全评测中优于对齐基线,同时基本保留通用能力。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 12:00
ReSI:面向抗攻击与韧性 AI 的递归安全改进框架报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv cs.AIReSI:面向抗攻击与韧性 AI 的递归安全改进框架
研究者提出递归安全改进框架 ReSI,通过自动化研究循环对模型进行多轮红队测试、训练配方开发与安全更新,在四款稠密与 MoE 模型上将 X-Teaming 平均攻击成功率从 86.01% 降至 31.45%,低于 GPT-5.6-Luna 的 56.69%。ReSI 在分布内与分布外安全基准上追平或超越所评估的前沿模型,并在几乎全部安全评测中优于对齐基线,同时基本保留通用能力。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。