arXiv cs.CL· Kaiwen Luo, Chunxi Luo, Liang Lin, Yuxuan Li, Zhenhong Zhou, Junhao Dong, Yingjie Zhou, Zhendong Chu·2026-10-12 12:00· 2 小时前AI 评分23

EchoDistill：用噪声到干净自蒸馏提升大型音频语言模型鲁棒性

EchoDistill: Robust Large Audio Language Models via Noisy-to-Clean Self-Distillation

AI 导读

EchoDistill 是一种噪声到干净的自蒸馏框架，在后期训练中以干净音频作为特权信息，让噪声输入的学生模型对齐干净条件下的语义，推理时仅保留学生模型、不增加额外开销。

来源：arXiv cs.CL · arxiv.org