LLM提示安全综述发布统一评测平台
热点事件持续更新
LLM提示安全综述发布统一评测平台
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Hanbin Hong等作者发布一项SoK研究，系统梳理272项LLM提示词安全研究，提出越狱攻击、防御与模型漏洞三套多标签分类体系，并开源评测平台PromptSecurity。 作者同时发布两个数据集：JailbreakDB含445,752条越狱系统-用户提示词对和1,094,122条良性提示词；PromptSecurity-Eval含166,200条有害查询和9,200条良性效用输出记录。 作者称在匹配的单轮协议下评测了11个目标模型、20种攻击、9种防御和3个自动评判器，使用100条有害查询及单独的良性效用任务。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
SoK：系统化 LLM 提示词安全——越狱攻击与防御的分类体系、数据集与统一评估报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv cs.AISoK：系统化 LLM 提示词安全——越狱攻击与防御的分类体系、数据集与统一评估
一项 SoK 研究系统梳理了 272 项 LLM 提示词安全研究，提出越狱攻击、防御与模型漏洞三套多标签分类体系，并发布开源平台 PromptSecurity 及配套数据集 JailbreakDB（445,752 条越狱提示词对、1,094,122 条良性提示词）和 PromptSecurity-Eval（166,200 条有害查询、9,200 条良性效用输出记录）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。