法律AI引用法条却未必依据法条

一项针对法律推理模型的反事实审计发现，模型在思维链中能正确点名所引法律依据，但判决未必真正随该依据改变。研究由 Saisab Sadhu 等作者发布，对七个开放权重模型（8B–70B）在四个法律推理基准上测试：固定案件事实、把所引法律依据替换为无关依据后，模型判决随之改变的比例在 CaseHOLD 上仅 0.0%–21.7%，在 ECHR 和 SCOTUS 上为 30.0%–76.7%，在 ContractNLI 上为 43.3%–50.0%。 与此同时，模型在 66.7%–100% 的生成中能正确点名法律依据。这表明模型给出的法条引用可能只是表面表述，并不构成判决的实际依据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。