arXiv cs.CL· Sourabh Kasliwal, Shubhranshu Singh·· 4 小时前AI 评分22
基于 LLM 蒸馏的多标签主题分类：生成式与判别式学生模型的对比分析
Multi-Label Topic Assignment via LLM Distillation: A Comparative Analysis of Generative vs. Discriminative Student Models
AI 导读
研究对比了 1B、4B、8B 参数规模的生成式模型与 DeBERTa-V3、ModernBERT 等判别式模型在电商多标签主题分类上的表现。判别式模型在结构化商品评论上更优，但最小的 1B 生成式模型在多轮对话数据上反超判别式基线。生成式模型在标签集扩展至 112 个主题及长尾分布下保持稳健，判别式基线 Macro-F1 下降 35%。
来源：arXiv cs.CL · arxiv.org