跳到正文
arXiv cs.CL· Junnan Liu, Linhao Luo, Zhijun Chen, Qianren Mao, Thuy-Trang Vu, Gholamreza Haffari·· 3 小时前AI 评分24

STI-OPD:面向多轮智能体在线策略蒸馏的随机教师干预框架

Stochastic Teacher Intervention for Agentic On-Policy Distillation

AI 导读

研究者提出 STI-OPD,一种面向多轮智能体在线策略蒸馏(OPD)的随机教师干预框架,用师生策略差异引导教师替换学生动作,以获取更可靠的监督信号。该方法用 KL 散度估计策略差异并映射为干预概率,通过采样自适应平衡教师控制与学生探索,并引入 Importance-Weighted Reverse KL 目标修正 token 采样偏差。

来源:arXiv cs.CL · arxiv.org