我正在阅读使用 MCMC 方法的研究论文,我看到其中大多数都提供了跟踪图。为什么我们需要蒙特卡洛马尔可夫链中的轨迹图?参数的轨迹图表明了什么?
为什么我们需要 MCMC 结果的轨迹图
机器算法验证
数据可视化
马尔可夫链蒙特卡罗
2022-02-07 11:19:19
1个回答
您创建参数跟踪图以确保您的先验分布得到很好的校准,这表明您的参数在 MCMC 算法运行时具有足够的状态变化。
一个极端的例子是您将先验分布方差设置为 0。那么后验参数估计将永远不会改变。你的算法会说你有最好的参数估计,但它没有检查足够数量的参数来确定这是否真的是最合适的。如果您将先验分布方差设置得太高,您会遇到类似的问题。这是因为新参数不太可能与您的数据相关 - 因此使用新参数计算的对数似然不太可能优于使用旧参数的对数似然。(例如,如果您的“真实”参数为 0.5,初始估计值为 2,但您从平均值为 2 且方差为 10,000 的正态分布中进行选择,那么您不太可能得到更接近 1 的参数.
您需要选择一个先验方差,该方差允许您的参数状态发生足够的变化,以至于您不会陷入对数似然分布中的局部最小值和最大值,但又足够精细,以便您获得合理的参数估计。大多数文献建议你让你的参数在 40-60% 的时间内改变状态。
跟踪图的另一个原因是老化。通常老化期在图中很明显(例如,如果真实参数是 1.5,而您的初始估计是 4,那么您应该看到参数估计从 4 快速移动到 1.5然后在 1.5 左右“弹跳”)。通常,您只需排除前 n 次迭代,其中 n 足够大,您可以肯定已经消除了老化(例如 1000),但如果计算非常耗时或者您的参数估计收敛时间比您的 n 长得多允许然后您可能希望省略或多或少的观察来解释老化。您可以检查您的图以查看老化期结束的位置,以确保老化不会影响您的结果。
请注意,我一直在讨论参数点估计。如果您正在估计参数方差,那么确保您有适当的状态更改更为重要。
其它你可能感兴趣的问题