arXiv cs.AI· Elan Barenholtz·· 5 小时前AI 评分36
无需世界模型的世界属性:分布关联与语言模型解码结果的解读
World Properties without World Models: Distributional Associations and the Interpretation of Decoding Results from Language Models
AI 导读
静态词嵌入在四项已发表案例中复现了 LLM 激活的线性解码结果:预测地点坐标与死亡年份(R² = 0.42-0.59)、区分疼痛与对照句(held-out AUC 0.85-0.88)、对十二种情绪故事分类(AUC 0.84-0.88)。
来源:arXiv cs.AI · arxiv.org