满足详细平衡的 MCMC 是否会产生平稳分布?

机器算法验证 可能性 马尔可夫链蒙特卡罗 马尔科夫过程
2022-03-04 21:22:02

我想我理解了详细平衡条件的方程,它说明了转移概率q平稳分布π,马尔可夫链满足详细平衡如果

q(x|y)π(y)=q(y|x)π(x),

如果我将其重述为:

q(x|y)q(y|x)=π(x)π(y).

基本上,从状态转换的概率x陈述y应该与它们的概率密度之比成正比。

2个回答

MCMC 满足详细平衡并不总是产生平稳分布。您还需要遍历的过程。让我们看看为什么:

考虑x成为集合所有可能状态的状态,并通过索引识别它i. 在马尔可夫过程中,分布pt(i)根据进化

pt(i)=jΩjipt1(j)

在哪里Ωji是表示转移概率的矩阵(您的q(x|y))。

所以,我们有那个

pt(i)=j(Ωji)tp0(j)

事实是Ωji是一个转移概率意味着它的特征值必须属于区间 [0,1]。

为了确保任何初始分配p0(j)收敛到渐近线,你必须确保

  • 1 只有一个特征值Ω值为 1 并且它具有唯一的非零特征向量。

为了保证π是渐近分布,你需要确保

  • 2 与特征值 1 相关的特征向量为π.

遍历性意味着1.,详细平衡意味着2.,这就是为什么两者都形成渐近收敛的充分必要条件。

为什么详细平衡意味着2:

从...开始

p(i)Ωij=Ωjip(j)

并总结j在双方,我们得到

p(i)=jΩjip(j)

因为jΩij=1,因为你总是转移到某个地方。

上式就是特征值1的定义,(写成向量形式比较容易看:)

1.v=Ωv

我认为确实如此,因为对于不可约 MC,如果满足详细平衡,那么它具有独特的平稳分布,但要使其独立于初始分布,它也必须是非周期性的。

在 MCMC 的情况下,我们从一个数据点开始,然后提出一个新点。我们可能会或可能不会移动到建议的点,即我们有一个自环,它使不可约的 MC 非周期性。

现在,由于满足 DB,它还具有正循环状态,即返回状态的平均时间是有限的。所以我们在 MCMC 中构建的链是不可约的、非周期性的、正循环的,也就是说它是一个遍历链。

我们知道,对于一个不可约的遍历链,存在一个固定分布,它是唯一的并且独立于初始分布。