无法编写似然函数时的贝叶斯 MCMC

机器算法验证 贝叶斯 估计 马尔可夫链蒙特卡罗 可能性
2022-04-19 02:46:52

考虑马尔可夫链蒙特卡罗(MCMC)从一些未知参数的后验分布中采样θ

P(θ|X)P(X|θ)P(θ)

在哪里X是观察到的数据,P(X|θ)是似然函数和P(θ)是先验分布。

我的问题涉及表达式为P(X|θ)但是对于给定的值,不能写θ可以从数字上抽取样本P(X|θ).

我们如何从中抽取样本P(θ|X)? 文献链接将不胜感激。

我的愚蠢和计算效率低下的方法是:对于当前值θ在马尔可夫链中抽取任意数量的样本P(X|θ)并拟合经验似然函数。但是我的直觉是,由于从P(X|θ)是任意的,只需要抽一次,但我不清楚这将如何工作。

1个回答

你描述的情况在哪里p(x|θ)无法计算,但模拟来自p(|θ)可以产生的称为生成模型它会导致无可能性的解决方案,例如

  1. ABC(近似贝叶斯计算),在维基百科页面中确实正确介绍了:近似贝叶斯计算
  2. 合成可能性,如Wood (2010),其中未知模型p(|θ)由 Normal 近似N(μ(θ),σ(θ)2), 在哪里μ(θ),σ(θ)通过模拟估计;
  3. 贝叶斯解决方案源自间接推理,如Drovandi 等人。(2015)