近似/精确贝叶斯计算的证明

机器算法验证 贝叶斯 收敛 近似 近似贝叶斯计算
2022-03-16 12:36:50

ABC算法给出为

  1. θπ(θ)
  2. 模拟数据Xπ(x|θ)
  3. 接受θ如果ρ(X,D)<ε

在哪里π(θ)是先验的,π(x|θ)是可能性,ρ(|)是一些距离度量,D是观察到的数据和ε是表示准确性和可计算性之间权衡的容差。

一般来说,在我看到的关于这方面的论文中,给出了一个证明,它表明我们实际上是从中采样的πε=π(θ|ρ(X,D)<ε)然后如果ε0,这收敛到真正的后验π(θ|D).

如果在第 3 步中,我们有

3*。接受θ如果X=D

我想知道是否有人知道如何证明在这个新算法中,我们从真实的后验中采样?所以没有ε0争论?

1个回答

这种情况是算法的原始版本,如Rubin (1984)Tavaré 等人。(1997 年)假如说

Pθ(X=D)>0
的值θ从算法中得出的分布是从密度成正比的分布中分布的
π(θ)×Pθ(X=D)
因为算法生成了对(θ,IX=D)联合分布
π(θ)×Pθ(X=D)IX=D×Pθ(XD)IXD
调节IX=D=1导致
θ|IX=D=1π(θ)×Pθ(X=D)/π(θ)×Pθ(X=D)dθ
这是后验分布。

另一方面,几个小时前我在课堂上给出了这个非常好的证明!