跳到正文
arXiv stat.ML· Aryan Das, Arnab Bhattacharya, Vinay Kumar Verma·· 5 小时前AI 评分22

FSPO:面向策略优化的函数空间时序自蒸馏框架

Function-Space Temporal Self-Distillation for Policy Optimization

AI 导读

研究者提出 Function-Space Policy Optimization(FSPO),一种单策略框架,通过存储稀疏历史 next-token 分布作为固定时序目标,避免维护持续演进的教师模型。在推理与工具使用基准上,FSPO 在 5 小时训练预算下取得最高平均准确率,较最强基线平均提升约 4 个百分点,并将 Olmo3-7B-Instruct 的峰值内存从约 70 GB 降至 56 GB。

来源:arXiv stat.ML · arxiv.org