研究比较LLM行为与隐藏状态语义几何

一项新研究比较了大语言模型的行为与内部隐藏状态的语义几何。作者对八个指令微调 Transformer 模型开展相似度强制选择与自由联想两类心理语言学实验，基于共享的 5,000 词词表收集超 1750 万次试验，构建行为相似度矩阵。 通过表征相似性分析，研究发现强制选择行为与隐藏状态几何的一致性显著高于自由联想；在留出词回归中，行为相似度（尤其是强制选择）能预测未见词的隐藏状态相似度，且超出词汇基线和跨模型共识。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。