这是一个具有 beta 先验分布和二项似然的示例。

假设正面概率的先验分布$\theta$一枚硬币是$\mathsf{Beta}(10,10)$然后$n = 100$抛硬币收益 $x = 47$头。那么后验分布$\theta$是 $\mathsf{Beta}(10 + x, 10 + 100 - x) \equiv \mathsf{Beta}(57, 63).$

这是贝叶斯定理的结果，乘以先验$f(\theta)$很可能$g(x|\theta)$去后面$h(\theta|x):$

$$f(\theta)\times g(x|\theta) \propto \theta^{10-1}(1-\theta)^{10-1} \times \theta^{x}(1-\theta)^{n-x}\\ \propto h(\theta|x) \propto \theta^{(10+x)-1}(1-\theta)^{(10+100-x)-1} \propto \theta^{57-1}(1-\theta)^{63-1}.$$

可以说，先验分布“有效地”等同于先验知识$20$掷硬币产生 10 个正面。

注意：在显示的贝叶斯定理关系中，使用符号$\propto$（阅读“与”成比例），而不是$=,$认识到我们正在展示先验、似然和后验的核（没有规范常数的密度函数）。因为先验和似然是“共轭的”（在数学上兼容），我们可以将右边的表达式识别为$\mathsf{Beta}(57, 63).$

先前有效样本量 (ESS) 没有单一定义。了解先验对后验参数的影响是一种启发式方法。Prior ESS 告诉您，您选择的prior 相当于拥有一个额外的$n_{E}$数据点。

用共轭先验证明先验 ESS 很简单。当您有非共轭先验时，情况会更加复杂。

共轭先验

Beta-二项式示例

假设你有一个二项式随机变量，$Y$你想估计成功的概率，$\theta$. 你观察$y$成功和$n-y$失败。假设一个$Beta(\alpha, \beta)$为了$\theta$.

$$Y \sim Binom(n, \theta),$$ $$\theta \sim Beta(\alpha, \beta), \text{ and }$$ $$\theta | Y \sim Beta(\alpha + y, \beta + n - y)$$

如果先验没有为后验提供信息，我们将仅使用数据来通知后验：$\theta | y \sim Beta(y, n - y)$. 如果我们将此分布的参数与一般情况进行比较，我们会看到$\beta$正在增加$n$在后面。先验有效样本量为$\beta$.

非共轭情况

当先验和似然不共轭时，我们无法准确看到先验参数如何与似然相互作用以形成后验参数。Morita et all (2008)将概念从共轭分布推广到一般分布。我会给出这个概念，但你可以参考那篇论文来了解所有细节。

您可以使用以下算法找到先前的 ESS：

1. 选择您的先前分布。计算先验参数的信息矩阵。
2. 确定 (1) 的非信息性替代方案。前任：$\theta \sim Normal(\mu = 0, \sigma^2 = 10e5)$
3. 取一个序列$m = 0, \dots, M$并使用大小数据集获取每个先验 (2) 的后验$m$. 计算信息矩阵。
4. 之前的 ESS 大小相同，$m_o$，它最小化了（1）的先验信息和（3）的后验信息之间的距离。