arXiv cs.CV· Sofi\`ene Boutaj, Pierre Marza, Varun Belagali, Dimitris Samaras, Maria Vakalopoulou, Stergios Christodoulidis·· 2 小时前AI 评分25
面向数字病理的多教师蒸馏扩展：OMNI 基础模型发布
Scaling Multi-Teacher Distillation for Digital Pathology
AI 导读
针对标准多教师蒸馏在教师数量增加时性能下降的问题，研究者提出学习教师专属表征的扩展方法，结合可学习教师 token、定制注意力机制、额外 MoE 层与对比损失。
来源：arXiv cs.CV · arxiv.org