跳到正文
热点事件持续更新

研究审计Text-to-SQL置信度评分

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

一项研究审计了生产级 Text-to-SQL 系统的置信度评分设计。在 BIRD dev 的 1,534 道题上,由 GPT-5.1 使用适配基准的生产提示、每题五次采样作答,该分数区分答案对错的能力较弱(AUROC 0.624,95% 置信区间 0.595–0.652),并扣留了 35.7% 的正确答案。 论文称,此处的“正确”指核心答案,标签由模型判定;一项尚未完成的双人盲审将在修订版中报告。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    受控置信度分数能否判断 Text-to-SQL 答案对错?基于 BIRD 的探索性研究与 Spider 上的预注册验证

    一项研究审计了生产级 Text-to-SQL 系统置信度分数的设计,在 BIRD dev 的 1,534 道题上由 GPT-5.1 作答,该分数区分对错能力较弱(AUROC 0.624),并会扣留 35.7% 的正确答案。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。