我正在阅读有关自适应MCMC的内容（例如，参见《马尔可夫链蒙特卡罗手册》第 4 章，布鲁克斯等人，2011 年；以及Andrieu & Thoms，2008 年）。

Roberts 和 Rosenthal（2007）的主要结果是，如果适应方案满足消失适应条件（加上一些其他技术性），则自适应 MCMC 在任何方案下都是遍历的。例如，通过在迭代中调整转移算子可以很容易地获得消失适应$n$有概率$p(n)$， 和$\lim_{n \rightarrow \infty} p(n) = 0$.

这个结果是（后验的）直观的，渐近的。由于适应量趋于零，最终不会与遍历性混淆。我关心的是有限时间会发生什么。

• 我们怎么知道适应在给定的有限时间内不会破坏遍历性，并且采样器正在从正确的分布中采样？如果它完全有意义，那么应该做多少老化以确保早期适应不会使链条产生偏差？

• 该领域的从业者是否信任自适应 MCMC？我问的原因是因为我已经看到许多最近的方法试图以其他更复杂的方式内置适应，这些方式已知尊重遍历性，例如再生或集成方法（即，选择转换是合法的依赖于其他平行链状态的算子）。或者，仅在老化期间执行适配，例如在Stan中，而不是在运行时执行。所有这些努力向我表明，根据 Roberts 和 Rosenthal（实施起来非常简单）的自适应 MCMC 并不可靠。但也许还有其他原因。

• 那么具体的实现呢，例如自适应 Metropolis-Hastings ( Haario et al. 2001 )？

参考

• JS 罗森塔尔 (2011)。最优提案分布和自适应 MCMC。马尔可夫链蒙特卡罗手册，93-112。
• Andrieu, C. 和 Thoms, J. (2008)。自适应 MCMC 教程。统计和计算，18（4），343-373。
• Roberts, GO 和 Rosenthal, JS (2007)。自适应马尔可夫链蒙特卡罗算法的耦合和遍历性。应用概率杂志，458-475。
• Haario, H., Saksman, E. 和 Tamminen, J. (2001)。一种自适应 Metropolis 算法。伯努利，223-242。