机器算法验证 - 解释先验预测（边际）分布来自先验分布和抽样分布 - 吾爱随笔录

机器算法验证贝叶斯预言事先的边际分布调理

2022-03-27 01:28:00

虽然我有一种模糊的直觉认为这是有道理的，但我对正式证明贝叶斯推理中的先验预测分布等于积分 $\theta$ 先验分布的乘积 $p(\theta)$ 和抽样分布 $p(y|\theta)$ ，这样：

p (y) = \int_{θ} p (θ) p (y | θ) d θ .

$p(y) = \int_{\theta} p(\theta) p(y|\theta)\text{d}\theta.$

有人可以说积分通过整合所有可能的参数使分布成为无条件的（即它消除了条件）？

如果是这样，是否有更正式的解释？

2个回答

该方程来自边际分布的定义：

p (y) = \int_{θ} p (y, θ)

$p(y) = \int_\theta{p(y, \theta)}$

并且，从将数据和参数的联合概率分解为条件概率，如下所示：

p (y, θ) = p (y | θ) p (θ)

$p(y, \theta) = p(y|\theta)p(\theta)$

（如果这令人困惑，请将两边除以 $p(\theta)$ 得到熟悉的条件概率定义。）

更清楚地说，正如评论中所提到的，先验预测分布是贝叶斯术语，定义为数据在先验上的边际分布：它表示对特定边际分布的解释。

是的，它消除了条件。Prior Predictive 用于在收集样本之前预测一个新值。我们在这个阶段拥有的唯一信息是我们对先验的信念， $p(\theta$ ) 和抽样分布，即 $p(y_{new}|\theta)$ .

收集完样本后，我们就有了新的信息，即可能性。因此，现在我们可以基于后验预测分布进行预测 $p(y_{new}|y_{data})$ .

其它你可能感兴趣的问题