贝叶斯神经网络新方法稀疏化随机性
热点事件持续更新
贝叶斯神经网络新方法稀疏化随机性
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
研究者 Marius P Linhard 与 Maurizio Filippone 提出一种贝叶斯神经网络方法:对参数先验尺度(即先验标准差)做深度权重因子化,学习哪些参数保持随机、哪些转为确定性。先验尺度低于阈值的参数被确定化,并在推理时优化,从而稀疏化随机性而非稀疏化容量。 据该论文,该方法在双峰目标上对阈值不敏感,随机掩码方案最多差两个数量级;在 UCI 基准上性能与全随机网络相当,约一半参数保持确定性。
AI 根据报道生成 · 2 小时前更新
最新进展10月8日 12:00
通过深度权重因子化实现部分随机性:稀疏化随机性而非容量报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv stat.ML通过深度权重因子化实现部分随机性:稀疏化随机性而非容量
研究者提出对贝叶斯神经网络先验尺度做深度权重因子化,学习哪些参数应保持随机、哪些应确定化,先验尺度低于阈值的参数转为确定性并在推理时优化,从而稀疏化随机性而非容量。该方法在双峰目标上对阈值不敏感,随机掩码方案最多差两个数量级;在 UCI 基准上性能与全随机网络相当,约一半参数保持确定性。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。