TL博士；你不能估计因为。因此，简化假设永远不可能真正成为可能。（在某些情况下可能是这样，但不是在 MCMC 的一般世界中）。但是，您可以决定什么会使早期偏差变小。$L$$L = \infty$$N$

---

从本质上讲，您的问题归结为“我们如何估计老化时间？”。老化是因为马尔可夫链没有收敛而丢弃开始样本的行为。有许多 MCMC 诊断可以帮助您估计“老化”时间，您可以在此处查看它们的评论。

关于老化有两个流派；流行的方法是使用其中一个诊断来确定是什么，然后丢弃个样本，然后通过它的第二个学校，第一个个样本应该无关紧要，所以不要担心它们。我同意查理·盖尔对此的咆哮。$L$$L$$L$

现在，我转向您问题的更多技术细节。

您在问题中所做的一个简化假设是，最终（在步之后），采样器将从限制分布开始绘制。步之后的样本是纯抽奖，尽管是相关的。这是不真实的。严格来说，是。马尔可夫链永远不会在有限时间内真正收敛到极限分布。所以估计几乎没有意义。$L$$L$$L$$\infty$$L$

提出这个问题的另一种方式是：什么是使得在步之后，马尔可夫链“足够接近”极限分布。这是大多数诊断试图回答的问题。越来越多的人同意上述诊断通常非常自由，并且可以在“收敛”之前诊断出它应该有的时间。这是一篇论文，展示了诊断的一些弱点。$L$$L$

上面要求用户做的是不要担心，担心。通常，用户对完整的后验分布不感兴趣，而是对特定数量感兴趣。通常这个量是后验的平均值，或者任何其他可以写成期望的函数。这就是 MCMC 的“蒙特卡洛”部分的用武之地，因为蒙特卡洛表示用求和来估计积分。因此，如果是您的马尔可夫链（请注意我是如何忽略的，因为是），并且我们要估计后验均值（），那么 $L$$N$$X_1, X_2, X_3, \dots, X_N$$L$$L$$\infty$$\theta$

$$\bar{\theta}_N = \dfrac{1}{N} \sum_{i=1}^{N}X_i.$$

这个想法是，如果足够大，那么样本的初始偏差将是微不足道的。当然，如果起始值与极限分布的高概率空间相距甚远，用户可能会目不转睛地扔掉前几个样本。这与估计不同，因为它不是估计，而是对明显损坏的样本的有根据的无视。$N$$L$

应该有多大？答案应该取决于我们想要估计的程度。如果我们想要一个很好的估计，那么我们想要更多的样本，如果一个好的估计就足够了，那么我们可以用一个更小的样本。这也正是标准统计问题中发生的情况。$N$$\theta$

我们量化估计的“优度”的方式是思考，“我们能说什么，蒙特卡洛误差？在合理的条件下，实际上存在马尔可夫链CLT 表示为，对于任何初始分布$(\bar{\theta}_N - \theta)$$N \to \infty$

$$\sqrt{N}(\bar{\theta}_N - \theta) \overset{d}{\to} N_p(0, \Sigma),$$

其中$\theta \in \mathbb{R}^p$和$\Sigma$是渐近协方差矩阵。这里的关键是任何初始分布的结果都是正确的。

什么时候$\Sigma/N$很小，我们知道估计器是好的。本文提出了这种停止的想法，我在这里的回答总结了他们的方法。他们论文中的结果也与过程的初始分布无关。