arXiv cs.AI· Dhananjay Ashok, Shantanu Agarwal, Vivek Datla, Jonathan May, Alfy Samuel·· 1 天前AI 评分31
如何训练你的世界模型：基于 LM 的世界建模中微调与 RAG 的对比
How To Train Your World Model: Fine-tuning vs RAG for LM-based World Modeling
AI 导读
一项研究在具身、网页导航和社交等五类环境中系统对比了微调与 RAG 两种基于 LM 的世界模型构建方式，发现微调在 20 个设置中的 15 个能让智能体获得更高奖励。RAG 方法数据效率更高，而微调则更受益于扩大经验采集规模。研究者还提出用反事实干预估计检索阶段错误率，并构建了参数化捕捉核心动态、结合检索记忆的混合世界模型系统。
来源：arXiv cs.AI · arxiv.org