Transformer 如何学习表征对称性？NeurIPS 2026 研究揭示可解释机制

一项被 NeurIPS 2026 接收的研究考察了 vanilla Transformer 通过有限数据增强学习点云数据集各类对称性的能力，发现可学习性从非保角对称、保角对称到平移、旋转、缩放等基础保角子群依次递增。针对基础保角子群，研究进一步分析了模型的泛化行为与结构，识别出诱导不变性的可解释机制，并证明这些机制可作为学习等变性的关键构件。