后验分布的快速积分

机器算法验证 贝叶斯 β-二项分布
2022-04-14 20:58:59

我希望在一些二项式过程中推断成功概率的后验分布,扭曲是我知道位于区间[0.5, 1]中。θθ

问题在于 [0.5, 1] 上支持的 Beta 分布不再是共轭的。特别是,先验看起来像这样(是pdf):p

p(θ)(θ0.5)α1(1θ)β1

次试验中给定次成功的可能性是通常的二项式可能性:xn

p(n,x|θ)θx(1θ)nx

就目前而言,后部看起来像这样:

p(θ|n,x)θx(θ0.5)α1(1θ)nx+β1

我希望能够有效地进行后验的 CDF 计算(即计算积分)。(例如,对于我的目的而言,数值积分可能太慢了)。我无法弄清楚如何做到这一点。

非常感谢论坛可以提供的任何帮助。

3个回答

您的后部 cdf 需要多准确?您可以考虑用离散近似替换连续先验:

p(θ)p(θ)1(θt1,,tk)

其中是你原来的连续先验。p(θ)

然后要计算后验,您只需先计算似然 x

p(θ|x)p(θ)p(x|θ)

在先前的和 renormalize 的支持下。t1,,tk

这被一些人称为“griddy Gibbs”。如果您有一个信息丰富的先验,这可能会非常有效,在这种情况下,您可以非均匀地选择网格点(当然,如果您可以使用足够粗略的离散近似值以在计算上可行)。

可能有一种更简单的方法,只需将通常的 Beta 共轭应用于二项式,然后要求您可以使用指标函数来执行此操作,例如θ[12,1]

p(θ)θα1(1θ)β11[12θ1]

现在应用你的得到后验密度p(n,x|θ)θx(1θ)nx

p(θ|x)θα+x1(1θ)β+nx11[12θ1].

后验累积分布函数为,其中表示正则化不完全 beta 函数或 Beta 分布的累积分布函数,任何体面的统计程序都可以快速计算,比如R的函数θ[12,1]Iθ(α+x,β+nx)I12(α+x,β+nx)1I12(α+x,β+nx)Ipbeta

您始终可以使用蒙特卡洛积分或中点法。使用 Monte Carlo,您只需在参数空间中生成一堆点,然后查看它们是否在您尝试整合的区域、体积或超维空间中。

来自: http: //farside.ph.utexas.edu/teaching/329/lectures/node109.html “现在让我们考虑用于评估多维积分的所谓蒙特卡罗方法。例如,考虑评估面积, ,由曲线包围, 假设曲线完全位于某个简单的面积域内,如图 97 所示。让我们生成随机分布在整个区域内的点。假设这些点位于曲线 内。我们对曲线所包围的面积的估计只是“空间中随机点的比率乘以空间的大小。该链接有一张漂亮的图片和我建议跳过的劣质中点方法的描述。