跳到正文
arXiv cs.AI· Keegan Wang·· 8 小时前AI 评分40

在前沿 LLM 上迭代,在 SLM 上部署:一种智能体行为蒸馏方法

Iterate on an LLM, Serve on an SLM

AI 导读

研究者提出先在前沿模型上通过提示词空间迭代开发目标行为,再将真实生产记录蒸馏进小模型。在家庭护理排班智能体案例中,基于 11.6k 条生产决策用 LoRA 微调的 Qwen3-8B 达到 0.913 一致率,而教师模型 GPT-5.4-nano 自我一致率仅 72.7%。该 SLM 中位延迟降低约 2.5 倍,成本仅为前者一小部分。

来源:arXiv cs.AI · arxiv.org