研究：SAE自动解释标签跨语言泛化不足

一项由 Sripad Karne 发表的研究发现，稀疏自编码器（SAE）自动解释标签在跨语言、文字和改写形式下泛化能力有限。研究以塞尔维亚语双语书写系统为受控测试台：同一内容在不同语言、文字和措辞下激活的 SAE 特征集有显著重叠，平均 Jaccard 相似度为 0.39，随机基线为 0.13，最高达 0.57。 但自动解释标签往往跟不上这种重叠。描述语义内容的特征在塞尔维亚语中漏掉同一含义的频率最高可达英语内的 4 倍，且漏掉塞尔维亚语西里尔字母多于拉丁字母。这一差距随网络深度增大，而标签并未显示失效迹象。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。