arXiv cs.CL· Junnan Liu, Linhao Luo, Zhijun Chen, Qianren Mao, Thuy-Trang Vu, Gholamreza Haffari·· 3 小时前AI 评分24
STI-OPD:面向多轮智能体在线策略蒸馏的随机教师干预框架
Stochastic Teacher Intervention for Agentic On-Policy Distillation
AI 导读
研究者提出 STI-OPD,一种面向多轮智能体在线策略蒸馏(OPD)的随机教师干预框架,用师生策略差异引导教师替换学生动作,以获取更可靠的监督信号。该方法用 KL 散度估计策略差异并映射为干预概率,通过采样自适应平衡教师控制与学生探索,并引入 Importance-Weighted Reverse KL 目标修正 token 采样偏差。
来源:arXiv cs.CL · arxiv.org