我们如何验证这样的直觉:在 RW-Metropolis-Hastings 算法中,高斯提议太小和太大的方差都是不好的选择
机器算法验证
马尔可夫链蒙特卡罗
马尔科夫过程
大都会黑斯廷斯
随机游走
最佳缩放
2022-04-13 15:25:38
1个回答
Gareth Roberts 等人的原始方法。是研究第一个坐标过程的极限分布, 加速了一个因素. 这导致了限制过程.
- 如果你把(大步),可以证明渐近地没有一个提议的移动将被接受,所以这个过程几乎可以肯定是恒定的。
- 同样,如果(小步),渐近所有的移动都将被接受,但移动是如此之小,所以再次限制过程几乎可以肯定是恒定的。
- 最后,只为,我们得到一个非平凡的限制过程(恰好是朗之万扩散)。
这是其中的方式可以认为是最优选择。有关此结果的更准确的陈述和证明,请参阅非常易读的原始研究论文。
Roberts, GO, Gelman, A., & Gilks, WR (1997)。随机游走 Metropolis 算法的弱收敛和最优缩放。应用概率年鉴,7(1),110-120。https://doi.org/10.1214/aoap/1034625254
结果随后以各种方式扩展:例如查看高维过程的不同函数(而不是第一个坐标),以及更一般的分布假设。还研究了不同的 Metropolis-Hastings 算法,例如 MALA 算法,它被证明只需要时间加速代替为了收敛。您正在阅读的调查报告中也对此进行了讨论。
其它你可能感兴趣的问题
