我今天正在阅读Christian Robert 的博客,非常喜欢他正在讨论的新 Metropolis-Hastings 算法。它看起来简单易行。
每当我编写 MCMC 代码时,我倾向于坚持使用非常基本的 MH 算法,例如独立移动或对数尺度上的随机游走。
人们通常使用哪些 MH 算法?尤其:
- 你为什么使用它们?
- 从某种意义上说,您必须认为它们是最佳的——毕竟您经常使用它们!那么你如何判断最优性:易于编码,收敛,......
我对实际使用的东西特别感兴趣,即当您编写自己的方案时。
我今天正在阅读Christian Robert 的博客,非常喜欢他正在讨论的新 Metropolis-Hastings 算法。它看起来简单易行。
每当我编写 MCMC 代码时,我倾向于坚持使用非常基本的 MH 算法,例如独立移动或对数尺度上的随机游走。
人们通常使用哪些 MH 算法?尤其:
我对实际使用的东西特别感兴趣,即当您编写自己的方案时。
混合蒙特卡罗是用于神经网络的标准算法。用于高斯过程分类的吉布斯采样(当不使用确定性近似时)。
在物理学中,特别是统计物理学中,Metropolis 类型的算法被广泛使用。这些真的有无数种变种,并且正在积极开发新的变种。这个话题太宽泛了,无法在这里进行任何形式的解释,所以如果您有兴趣,可以从这些讲义或 ALPS 图书馆网页 (http://alps.comp-phys.org/mediawiki) 开始。
我使用切片采样器 - 最初由 Neal(2003) 提出,我通过启发式优化对其进行调整。