更精简的 Transformer 也能轻松学会聚类

研究者提出一种更小的 Transformer，能以嵌入维度 d_emb = (d + ⌈log₂ k⌉) 精确执行 Lloyd 算法完成 k-means 聚类，优于此前 d_emb = d+k 的方案。团队进一步训练这些 Transformer 学习聚类算法，从理论和实验两方面刻画了随机梯度学习算法的收敛与分布内泛化因素，并探查了所学算法的聚类能力边界。该论文已被 NeurIPS 2026 接收。