arXiv stat.ML· Tianxi Li, Jie Ding·· 5 小时前AI 评分24
用 AI 评委做可信方法比较：顺序、批次与聚合效应下的估计与设计
Trustworthy Method Comparison with AI Judges: Estimation and Design under Order, Batch, and Aggregation Effects
AI 导读
研究将 LLM 评委的评测机制近似为一类 Markov GLMM，并在三个主流商用 LLM 上通过样本外预测验证。基于一阶 Markov GLMM 的分析显示，随机化提示词顺序再取平均的排行榜选择在温和分离条件下具有一致性，Williams 方设计可在项目质量接近时提升效率；而分组比较中，由于响应模型的非线性，简单平均可能得出关于组间质量差异的不一致结论。
来源：arXiv stat.ML · arxiv.org