研究：CLIP提示边际安全分数反映相似度而非危险

一项针对冻结 CLIP 提示词边际安全分数的受控评估发现，该分数在接触前约二十步开始下降，但主要反映的是场景与其提示词描述的相似度，而非危险本身。研究由 Samuel Tetteh 和 Cody Fleming 发表。 评估覆盖三个策略、180 条轨迹和 130 次孤立接触起始，分数随提示词区分度和相机视角变化。恒定置信度对照组仍保留较低的灾难率点估计，研究者据此称策略收益并不能证明模型感知到了危险。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。