跳到正文
arXiv cs.CL· Michael A. Lepori, Jennifer Hu, Ishita Dasgupta, Roma Patel, Thomas Serre, Ellie Pavlick·· 5 小时前AI 评分23

语言模型能否判断事件合理性?模态差异向量揭示 LM 与人类判断的关联

Is This Just Fantasy? Language Model Representations Reflect Human Judgments of Event Plausibility

AI 导读

研究在多种语言模型中找到可区分句子模态类别(可能、不可能、完全无意义等)的线性表示,即模态差异向量。分析显示,LM 实际具备比此前报告更可靠的模态分类能力,且这些向量随训练步数、层数和参数规模增长按一致顺序出现。LM 激活中的模态差异向量还能建模人类细粒度分类行为,为理解人类如何区分模态类别提供新视角。

来源:arXiv cs.CL · arxiv.org