MCMC没有记忆吗?

机器算法验证 马尔可夫链蒙特卡罗
2022-01-29 13:22:19

我试图从法语维基百科页面了解马尔可夫链蒙特卡洛(MCMC)是什么。他们说“马尔可夫链蒙特卡罗方法包括仅从向量数据,因此它是一个“没有记忆”的过程”xixi1

Les méthodes de Monte-Carlo par chaînes de Markov compatible à générer un vecteur uniquement à partir de la donnée du vecteur ; c'est donc un processus « sans memoire »,xixi1

我不明白为什么他们说 MCMC 是“没有记忆的”,因为我们使用来自矢量数据的信息来生成xi1xi

3个回答

马尔可夫链的定义特征是,以过去值为条件的现值的条件分布仅取决于先前值所以每条马尔可夫链都是“没有记忆的”,以至于只有前一个值会影响当前的条件概率,而所有以前的状态都被“遗忘”了。(你说得对,它并非完全没有记忆——毕竟,现值的条件分布取决于先前的值。)对于 MCMC 和任何其他马尔可夫链都是如此。

虽然我们有正确的答案,但我想稍微扩展一下该语句的直观语义。想象一下,我们重新定义我们的索引,以便您从向量 } 。现在,时刻被比喻为“现在”,所有“早于”的向量都与计算未来的下一个向量无关。xi+1xiixi

通过这种简单的重新编号,它就变成了直观意义上的“完全没有记忆”——也就是说,马尔可夫系统是如何变成现在这个状态的,这根本不重要当前状态单独确定未来状态,而不使用来自过去( ) 状态的任何信息。xin

可能更微妙的一点:“记忆”这个词也被使用了,因为这也意味着你不能从现在的状态推断过去的状态。一旦你在,你不知道在期间“之前”发生了什么。这与将过去状态的知识编码到当前状态的系统相反。xixin

你醒了。你不知道你是怎么走到现在的。你环顾四周,仅根据当时可用的信息来决定下一步该做什么。这与 MCMC 中发生的情况基本相同。

它正在使用当前可以看到的当前信息来决定下一步该做什么。而不是将其视为从中找出 } (这可能是给您带来麻烦的原因,因为您在想“嘿,当我们查看 ) 将其视为根据您不需要任何“记忆”应该是什么。这两个公式是等价的,但它可能会帮助您考虑语义好一点。xixi1xi1xi+1xi