MCMC 跳跃的方差稳定“规则”……有人吗?

机器算法验证 马尔可夫链蒙特卡罗 马尔科夫过程 大都会黑斯廷斯
2022-03-24 14:24:04

我有一个 MCMC 算法(Metropolis-Hastings 和 Adaptive Metropolis-Hastings)的实现,我想修改它以满足我的需要(它是 pyMC,如果有人对细节感兴趣的话)。

我的问题是我的模型的参数空间非常高(10-20 个参数),因此老化期对于每个 MCMC 链的收敛至关重要。我已经读过,对于多元高斯后验,0.234 的接受率是可以的(Gelman 等人,2004 年),但为了获得这些接受率,我需要稳定每个提案值之间的高斯跳跃方差我在这个老化阶段的参数:有人可以阐明如何稳定它们的规则(和证明!)吗?

到目前为止,我只看到很少有没有证据的规则。在 pyMC 中调整方差的标准规则可以在这里看到,从第 562 行到第 581 行,这是相当随意的。另一方面,Ford (2006)在第 3.2 节建议通过某种我以前从未听说过的经验法则来调整方差。我也一直在想,通过监控方差如何影响接受率,可以检测出跳跃的最佳方差......

...帮助,有人吗?

1个回答

据我所知,总的来说,这在很大程度上取决于您可观察的景观。

去年,我和我的主管提出了一种方法来自适应地获得一个特定景观示例的步长 - 混沌系统中发生的分形景观。

但是,我一般不知道有系统的方法来解决这个问题

(比这个更好的答案对我也很有帮助!)