为了得到这个并简化问题，我总是首先考虑一个具有均匀（远程）先验分布的参数，因此在这种情况下，参数的 MAP 估计与 MLE 相同. 但是，假设您的似然函数足够复杂以具有多个局部最大值。

MCMC 在这个一维示例中所做的是探索后验曲线，直到找到最大概率值。如果方差太短，你肯定会卡在局部最大值上，因为你总是会在它附近采样值：MCMC 算法会“认为”它卡在目标分布上。但是，如果方差太大，一旦您陷入一个局部最大值，您将或多或少地拒绝值，直到找到其他最大概率的区域。如果您碰巧在 MAP 处提出该值（或类似的局部最大概率区域，该区域大于其他区域），那么您将最终拒绝几乎所有其他值：该区域与其他区域之间的差异会太大。

当然，以上所有都会影响收敛速度，而不是你的链的收敛“本身”。回想一下，无论方差如何，只要选择这个全局最大区域的值的概率是正的，你的链就会收敛。

然而，为了绕过这个问题，可以做的是在每个参数的老化期内提出不同的差异，并瞄准可以满足您需求的特定接受率（例如$0.44$，请参阅Gelman, Roberts & Gilks​​, 1995和Gelman, Gilks​​ & Roberts, 1997以了解有关选择“良好”接受率问题的更多信息，这当然取决于您的后验分布形式）。当然，在这种情况下，链是非马尔可夫链，因此您不必使用它们进行推理：您只需使用它们来调整方差。

有两个基本假设导致这种关系：

1. 平稳分布$\pi(\cdot)$变化不会太快（即它有一个有界的一阶导数）。
2. 大部分概率质量$\pi(\cdot)$集中在域的一个相对较小的子集中（分布是“峰值”）。

让我们考虑“小$\sigma^2$” 案例第一。让$x_i$是马尔可夫链的当前状态和$x_j \sim \mathcal{N}(x_i, \sigma^2)$成为建议的状态。自从$\sigma^2$非常小，我们可以确信$x_j \approx x_i$. 结合我们的第一个假设，我们看到$\pi(x_j) \approx \pi(x_i)$因此$\frac{\pi(x_j)}{\pi(x_i)} \approx 1$.

大额录取率低$\sigma^2$来自第二个假设。回想一下，大约$95\%$正态分布的概率质量在$2\sigma$它的平均值，所以在我们的例子中，大多数提案将在窗口内生成$[x_i - 2\sigma, x_i + 2\sigma]$. 作为$\sigma^2$变大时，此窗口会扩大以覆盖越来越多的变量域。第二个假设意味着密度函数在大多数域上必须非常小，所以当我们的采样窗口很大时$\pi(x_j)$通常会非常小。

现在进行一些循环推理：因为我们知道 MH 采样器根据平稳分布生成分布的样本$\pi$, 一定是它在域的高密度区域产生了很多样本​​，而在低密度区域产生了很少的样本。由于大多数样本是在高密度区域生成的，$\pi(x_i)$通常很大。因此，$\pi(x_i)$很大并且$\pi(x_j)$很小，导致接受率$\frac{\pi(x_j)}{\pi(x_i)} << 1$.

这两个假设对于我们可能感兴趣的大多数分布都是正确的，因此提案宽度和接受率之间的这种关系是理解 MH 采样器行为的有用工具。