arXiv cs.CL· Ming-Hao Hsu, Xiaohai Tian, Jun Zhang, Lu Lu, Yuxuan Wang, Zhizheng Wu·· 5 小时前AI 评分31
几何对齐不等于功能等价:语音-文本模态差距的逐层分析
Geometric Alignment without Functional Equivalence: A Layer-wise Analysis of the Speech-Text Modality Gap
AI 导读
研究对比四种开源语音 LLM 在 SpeechMMLU 和 VoiceBench BBH 上的跨层 CKA 与逐层答案 margin,发现 Qwen2.5-Omni 和 MiniCPM-o 的语音与文本表示在中层对齐,但后层答案 margin 仍存在差异,即中层几何对齐并不意味着功能等价;Qwen2-Audio 则表现为弱对齐,属于另一种失效模式。
来源:arXiv cs.CL · arxiv.org