跳到正文
热点事件持续更新

研究:似然退火改变贝叶斯网络预测矩

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

针对宽贝叶斯神经网络中高斯平均场变分推断易出现的“先验主导”问题,Ian Zhang 与 Thibault Randrianarisoa 发表论文,研究对似然施加温度 T 的 1/T 次幂退火,并在网络宽度 M→∞ 时推导其极限预测分布,与未退火的 NNGP 后验对比。 结果显示预测期望与方差在不同尺度发生相变:当 c=1/2 且 τ 低于显式阈值时,期望脱离先验值;c>1/2 时期望等于最小二乘预测。方差则在 c<1/2 时保持先验值,c>1 时转为 NNGP 后验方差。 论文提出的问题是 T 需随 M 以多快速度下降,才能抵消这种退化并在两项之间取得平衡。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv stat.ML
    似然退火对变分贝叶斯线性神经网络极限预测矩的影响

    针对宽贝叶斯神经网络中高斯平均场变分推断易出现的"先验主导"问题,研究对似然施加温度 T 的 1/T 次幂退火,在宽度 M→∞ 时推导其极限预测分布并与未退火的 NNGP 后验对比。结果显示预测期望与方差在不同尺度发生相变:当 c=1/2 且 τ 低于显式阈值时期望脱离先验值,c>1/2 时等于最小二乘预测,而方差在 c<1/2 时保持先验值、c>1 时转为 NNGP 后验方差。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。