MCMC 用于寻找贝叶斯神经网络

数据挖掘 深度学习 贝叶斯 蒙特卡洛
2022-03-10 21:11:56

是否有人熟悉这种方法:

假设我想建立一个贝叶斯神经网络,在我的参数上分布而不是点估计。首先,我使用标准反向传播训练我的网络。训练后,我开始对我的网络权重进行一些 MCMC 采样,以估计分布。

不知何故,这种方法对我来说似乎很自然,并且可能已经存在一些我没有看到的论文或缺点。我知道采样可能是一个缓慢的过程,但如果有一个好的起点,它应该会运行得非常快。采样也可以在批处理模式下运行以加快速度。

1个回答

实际上有很多关于这个主题的论文。我会推荐这个这个不确定你想用你的贝叶斯神经网络做什么,但也许这个也很有用。