arXiv cs.AI· Jialin Wu, Meenakshi Khosla·· 8 小时前AI 评分24
大语言模型表征对齐的规模、驱动因素与局限
Scale, Drivers, and Limits of Representational Alignment Across Large Language Models
AI 导读
研究提出 Neighborhood-Weighted RSA 与 Counterfactual RSA 两种方法，用于定位大语言模型在哪些几何尺度上表征一致、以及哪些语言属性支撑这种一致性。结果显示，模型在粗粒度表征几何上高度一致，但在局部邻域存在显著分歧；逻辑辖域扰动对对齐的削弱远大于层级句法、事件角色或语篇结构扰动。
来源：arXiv cs.AI · arxiv.org