arXiv cs.CL· Sebastian Nagl·· 5 小时前AI 评分22
SoK:从法学院考试到可信评分标准评审,开放文本法律答案如何评分
SoK: Grading Open-Text Legal Answers, from Law School Exams to Trustworthy Rubric Judges
AI 导读
一篇 SoK 论文系统梳理了开放文本法律答案的评估方法,从教育测量与考试法出发提出八项要求,并对比八种评估范式。研究发现,针对任务编写的评分标准(rubric)是提升 LLM 评审与人工评分一致性的最强杠杆,但现有报告数字口径不一且缺少人工一致性对照。核心验证缺口在于可辩护的替代解法、后续错误与考官对模型判断的纠正,而基于 rubric 的评分最可审计。
来源:arXiv cs.CL · arxiv.org