研究:似然退火改变贝叶斯网络预测矩
热点事件持续更新
研究:似然退火改变贝叶斯网络预测矩
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
针对宽贝叶斯神经网络中高斯平均场变分推断易出现的“先验主导”问题,Ian Zhang 与 Thibault Randrianarisoa 发表论文,研究对似然施加温度 T 的 1/T 次幂退火,并在网络宽度 M→∞ 时推导其极限预测分布,与未退火的 NNGP 后验对比。 结果显示预测期望与方差在不同尺度发生相变:当 c=1/2 且 τ 低于显式阈值时,期望脱离先验值;c>1/2 时期望等于最小二乘预测。方差则在 c<1/2 时保持先验值,c>1 时转为 NNGP 后验方差。 论文提出的问题是 T 需随 M 以多快速度下降,才能抵消这种退化并在两项之间取得平衡。
AI 根据报道生成 · 3 小时前更新
最新进展10月8日 12:00
似然退火对变分贝叶斯线性神经网络极限预测矩的影响报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv stat.ML似然退火对变分贝叶斯线性神经网络极限预测矩的影响
针对宽贝叶斯神经网络中高斯平均场变分推断易出现的"先验主导"问题,研究对似然施加温度 T 的 1/T 次幂退火,在宽度 M→∞ 时推导其极限预测分布并与未退火的 NNGP 后验对比。结果显示预测期望与方差在不同尺度发生相变:当 c=1/2 且 τ 低于显式阈值时期望脱离先验值,c>1/2 时等于最小二乘预测,而方差在 c<1/2 时保持先验值、c>1 时转为 NNGP 后验方差。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。