跳到正文
arXiv cs.LG· Kosio Beshkov·· 7 小时前AI 评分12

神经网络拓扑表达力的构造性边界

Constructive Bounds for the Topological Expressivity of Neural Networks

AI 导读

研究提出以神经网络输出 β(Φ(X)) 的 Betti 数衡量拓扑表达力,替代仅适用于二分类的决策边界 Betti 数。作者证明 ReLU 网络架构 (d, Σβₖ(3k+2), Σβₖ(k+1)) 可表达与球面楔和同伦等价的空间,并通过构造 N 个球面乘积的同伦等价空间得到更优边界 (Σdₙ, 3Σdₙ+2N, Σdₙ+N)。作者进一步猜想球面同胚空间的紧致边界为 (d, d+1, d+1)。

来源:arXiv cs.LG · arxiv.org