要对目标分布进行采样,只需构建一个以目标分布为极限分布的马尔可夫链即可。
请注意,这样的 MC 可能不满足关于极限分布的详细平衡方程。但是 Metropolis-Hastings 算法需要这样。所以,我想知道这个额外的要求能带来什么(好或坏)?
例如,
- 它会减少 MC 的混合时间,即增加的分布到目标的收敛速度吗?
- 它有一些计算目的吗?
如果不需要满足详细的平衡方程,有什么方法可以构造一个 MC(更具体地说是它的过渡内核),使其极限分布成为目标分布?
给定任何目标分布,是否总是存在一个 MC(它的过渡内核,更具体地说),使得它具有极限分布,它的极限分布是目标分布,和/或它满足关于其极限分布的详细平衡方程?
满足 Metropolis-Hastings 算法中的详细平衡方程?
机器算法验证
马尔可夫链蒙特卡罗
2022-04-05 08:40:26
1个回答
我将解决问题2。
如果您修复有限集支持的分布,则具有该分布作为稳定分布的马尔可夫链形成多面体。您可以通过遵循一个概率的规则和另一个概率为的规则在任意两者之间进行插值,并且凸组合也将保持稳定分布。
查看多面体的另一种方法是网络中的最大流空间,每个状态都有源和汇,源和汇之间的完整(二分)连接,因此每个源/汇的容量是概率分布中对应的状态。满足总平衡的马尔可夫链是该多面体与子空间的交集。
给定这个完整的二分图中任何长度的循环和一个最大流,使得偶数边都至少携带,您可以通过将偶数边携带的数量减少 c 来产生另一个最大流并增加奇数边携带的数量。即使原始流程满足,新流程通常也不满足详细平衡。因此,这是一种产生具有相同稳定分布但不满足详细平衡的马尔可夫链的方法。