据我了解,它是(至少,维基百科是这样定义的)。但是我发现了 Efron* 的这个声明(强调):
马尔可夫链蒙特卡洛 (MCMC) 是现代贝叶斯统计的巨大成功案例。MCMC 及其姊妹方法“吉布斯抽样”允许在过于复杂而无法解析表达式的情况下对后验分布进行数值计算。
现在我很困惑。这只是术语上的微小差异,还是 Gibbs 采样的不是 MCMC?
据我了解,它是(至少,维基百科是这样定义的)。但是我发现了 Efron* 的这个声明(强调):
马尔可夫链蒙特卡洛 (MCMC) 是现代贝叶斯统计的巨大成功案例。MCMC 及其姊妹方法“吉布斯抽样”允许在过于复杂而无法解析表达式的情况下对后验分布进行数值计算。
现在我很困惑。这只是术语上的微小差异,还是 Gibbs 采样的不是 MCMC?
现在称为Gibbs 采样的算法形成马尔可夫链,并对其输入使用蒙特卡洛模拟,因此它确实属于 MCMC(马尔可夫链蒙特卡洛)方法的适当范围。从历史上看,这种方法至少可以追溯到 20 世纪中叶,但它并不为人所知,后来被Geman 和 Geman(1984)的开创性论文推广,该论文研究了统计物理学与使用Gibbs 分布(有关一些历史参考资料,请参阅Casella 和 George 1992,第 167 页)。
出于某种原因,在他的论文中,Efron 提到 Gibbs 采样器,就好像它超出了 MCMC 的范围。他在您给出的引文中以及在论文的其他一些部分中都这样做了。由于他对该技术的开篇引用是指“Gibbs 采样器”(在引号中给出),因此他可能暗示了一个历史事实,即原始方法是通过统计物理学中的 Gibbs 分布开发的,并且没有被纳入MCMC 的一般统计理论直到很久以后。这是我对他为什么以这种方式提及它的最佳猜测。
更新:由于Efron 教授还活着,我冒昧地写信给他,问他为什么用这种方式描述 Gibbs 采样器。以下是他的回复(经他许可转载):
这主要是出于历史原因……另一方面,Gibbs 算法看起来与 MCMC 配方完全不同,需要一些工作才能证明它在某种意义上是相同的。(Efron 2018,个人通信,原文省略号)
去维基百科。更好的是,与这些 MCMC 研究人员一起去:
Gibbs 采样器是马尔可夫链蒙特卡罗算法的一个示例。事实上,它是 Metropolis-Hastings 算法的一个特例。从分布中生成随机抽取的任何算法通过模拟具有因为它的平稳分布是马尔可夫链蒙特卡罗算法,而这正是吉布斯采样器所做的。