Alex R. 的回答几乎就足够了，但我添加了更多细节。在关于马尔可夫链中心极限定理 – Galin L. Jones中，如果你看一下定理 9，它说，

如果$X$是具有平稳分布 $\pi$的 Harris 遍历马尔可夫链，则如果X是均匀遍历且 E[f^2] < \infty，则 CLT 对$f$成立。$X$$E[f^2] < \infty$

对于有限状态空间，所有不可约和非周期马尔可夫链都是一致遍历的。对此的证明涉及马尔可夫链理论的一些重要背景。一个很好的参考是第 32 页，在此处定理 18 的底部。

因此，马尔可夫链 CLT 将适用于任何具有有限二阶矩的函数$f$CLT 采用的形式如下所述。

让是的时间平均估计量，然后正如 Alex R. 指出的那样，正如， $\bar{f}_n$$E_{\pi}[f]$$n \to \infty$

$$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$$

马尔可夫链 CLT 为

$$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$$

其中

$$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$$

可以在Charles Geyer 的 MCMC 笔记的第 8 页和第 9 页上找到项的推导。$\sigma^2$

马尔可夫链的“通常”结果是 Birkhoff 遍历定理，它表示

$$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$$

其中是平稳分布，满足，收敛几乎是肯定的。$\pi$$f$$E|f(X_1)|<\infty$

不幸的是，这种收敛的波动通常是相当困难的。这主要是由于很难确定收敛到平稳分布的总变化范围。已知波动类似于 CLT 的情况，您可以在漂移上找到一些使类比成立的条件：关于马尔可夫链中心极限定理——Galin L. Jones（见定理 1）。$X_i$$\pi$

还有一些愚蠢的情况，例如具有两种状态的链，其中一种正在吸收（即和。在这种情况下，没有波动，你收敛到退化正态分布（常数）。$P(1\rightarrow 2)=1$$P(2\rightarrow 1)=0$