arXiv cs.AI· Jiarong Wen, Qi Tao, Kaiyu Zhang, Yun Qu, Lizhou Cai, Heming Zou, Yuhang Jiang, Qi Wang·· 8 小时前AI 评分22
通过上下文建模弥合模型预测任务采样中的风险近似差距
Bridging Risk Approximation Gaps in Model Predictive Task Sampling via In-Context Modeling
AI 导读
针对模型预测任务采样(MPTS)中风险预测模型(RPM)面临优化历史稀疏与风险近似滞后一步两大失效模式,该研究将风险预测重构为上下文序列建模问题,提出结合一步前瞻机制与时间加权滑动窗口的 RPM,无需额外 rollout 即可缓解数据非平稳与稀缺问题。在鲁棒 Meta-RL、域随机化(DR)及 LLM 提示课程 RL 后训练中,该方法给出更可靠的难度估计并取得一致性能提升。
来源:arXiv cs.AI · arxiv.org