arXiv cs.AI· Keegan Wang·· 8 小时前AI 评分40
在前沿 LLM 上迭代,在 SLM 上部署:一种智能体行为蒸馏方法
Iterate on an LLM, Serve on an SLM
AI 导读
研究者提出先在前沿模型上通过提示词空间迭代开发目标行为,再将真实生产记录蒸馏进小模型。在家庭护理排班智能体案例中,基于 11.6k 条生产决策用 LoRA 微调的 Qwen3-8B 达到 0.913 一致率,而教师模型 GPT-5.4-nano 自我一致率仅 72.7%。该 SLM 中位延迟降低约 2.5 倍,成本仅为前者一小部分。
来源:arXiv cs.AI · arxiv.org