跳到正文
热点事件持续更新

研究者发布EVALCAST预测性评估资源

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

研究者提出"前瞻性评估"设定,并发布 EVALCAST 资源,用于从任务描述预测大语言模型(LLM)的基准分数。该资源包含来自 1,519 篇 arXiv 论文的 2,290 组描述-性能配对,其中测试集论文发表于模型知识截止之后。 实验显示,前沿 LLM 在绝对性能回归预测上仍具挑战,但在匹配设置下的成对预测可恢复基准的相对难度排序。研究者称,截止后与流式评估表现相当,表明该信号并非仅来自已报道结果。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.CL
    EVALCAST:从任务描述预测 LLM Benchmark 分数的前瞻性评估

    研究者提出"前瞻性评估"(anticipatory evaluation)设定,并发布 EVALCAST 资源,包含来自 1,519 篇 arXiv 论文的 2,290 组描述-性能配对,其中测试集论文发表于模型知识截止之后。实验显示,前沿 LLM 在绝对性能回归预测上仍具挑战,但在匹配设置下的成对预测可恢复基准的相对难度排序;截止后与流式评估表现相当,表明该信号并非仅来自已报道结果。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月15日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。