ProloNg测试台评估LLM长程演绎推理
热点事件持续更新
ProloNg测试台评估LLM长程演绎推理
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
研究者构建了合成测试平台 ProloNg,用 Prolog 演绎逻辑系统性地改变问题的推理深度,最难案例推理深度达 22、上下文长度 62k。 他们用该平台测试了 5 个前沿 LLM 家族的 8 个推理模型,发现随着推理深度增加性能大幅下降,多数模型在深度超过 10 后接近随机水平。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 12:00
用 Prolog 探测语言模型的长程演绎推理能力报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv cs.CL用 Prolog 探测语言模型的长程演绎推理能力
研究者构建了合成测试平台 ProloNg,用 Prolog 演绎逻辑系统性地改变问题推理深度,最难案例推理深度达 22、上下文长度 62k。他们测试了 5 个前沿 LLM 家族的 8 个推理模型,发现随着推理深度增加性能大幅下降,多数模型在深度超过 10 后接近随机水平。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。