MCMC:直接采样困难的例子(但 Metropolis Hastings 很容易)

机器算法验证 马尔可夫链蒙特卡罗 大都会黑斯廷斯
2022-04-06 01:33:13

Metropolis-Hastings 算法是一种马尔可夫链蒙特卡罗 (MCMC) 方法,用于从难以直接采样的概率分布中获取随机样本序列。

有没有人有真实世界的具体例子,直接采样很困难而MH程序很容易?

1个回答

我没有一个很好的例子,但是当参数的先验与该参数的可能性不共轭时,与直接采样相比,MH 很容易。事实上,这是我见过 MH 首选的唯一原因。一个玩具例子是,你想要(独立)先验这不是共轭的,您需要将 MH 用于pBeta(α,β)α,βGamma()αβ

本演示文稿给出了一个使用 MH 绘制 GLM 系数的 Poisson GLM 示例。

如果您还不知道,可能值得注意的是,当我们总是接受抽取的值时,直接抽样只是 MH 的情况。因此,只要我们可以直接采样,我们就应该避免调整我们的提案分布。