跳到正文
arXiv cs.CL· Fagun Patel, Sang T. Truong, Duc Q. Nguyen, Kazunori Fukuhara, Benjamin W. Domingue, Sanmi Koyejo, Nick Haber·· 4 小时前AI 评分22

CodeInsight:面向迭代问题求解建模的大规模数据集与基准

A Dataset for Modeling Iterative Problem-Solving

AI 导读

研究者构建了 CodeInsight 数据集,包含 2 门 C++ 入门课程、3286 名本科生在 2 个学年内的超 300 万次代码提交,附测试用例级结果、时间戳和源码。基于该数据集,他们建立基准评测参数化、序列化与生成式模型,其中适配的 RSSM 在 4 门课程中的 3 门取得最高预测准确率,LLM 预测器准确率较低但能生成完整提交。研究发现模型编码能力与该场景下的预测表现呈负相关。

来源:arXiv cs.CL · arxiv.org