研究：风格包装可翻转LLM安全评判

一项新研究显示，在回复内容一字不改的情况下，仅靠添加风格包装文本就能让部分大模型的安全评判结果发生翻转。作者Yongxi Zhou等人用600余条JailbreakBench回复、9种包装文本和8个评判模型测试，在有害回复前加一句“我无法帮助”的token拒绝语后，GPT-4o-mini原本正确的“不安全”判定有19.9%翻转为“安全”，而噪声基线仅0.5%；Claude的判定变动仅0.4%。 研究者称，由于回复本身逐字节未变，评判结果的任何变化都属于评判模型的错误。这表明安全评判可能被与内容无关的包装风格左右，且不同模型受影响的幅度差异明显。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。