通过随机嵌入扰动越狱开放权重 LLM

研究者提出 Perturbed Embedding Vector（PEV）攻击，仅向提示词的嵌入向量表示中加入独立高斯噪声，即可越狱六种不同规模的常见开放权重 LLM，在 JailbreakBench 上对所有模型、所有提示词均生成不安全回复。PEV 无需梯度计算、逐提示优化或修改模型内部权重，取得首次成功攻击的平均算力成本比此前方法低至多一个数量级，每个测试模型上首次越狱通常在一分钟内出现。