arXiv cs.LG· Tamir Shor, Or Litany, Alex Bronstein·· 12 小时前AI 评分22
LSA:可学习频谱激活函数改进隐式神经表示
Learnable Spectral Activations
AI 导读
研究者提出可学习频谱激活函数(LSA),用残差截断傅里叶级数替代固定的神经元级非线性,谐波幅值在训练中学习。LSA 不扩展渐近函数类,而是改变表示的因子分解方式,使线性权重选择特征、激活系数控制频谱整形,两者由独立梯度更新。在音频、图像、神经辐射场和神经声场任务上,LSA 均提升了重建质量。
来源:arXiv cs.LG · arxiv.org