您可以使用任何您想要的先验。它不一定是正常的,它可以有不同的平均值,或者它可以没有平均值(柯西)......这是你在看到数据之前做出的主观选择。
回想一下,后验概率是先验概率
P(θ|D)posterior∝P(D|θ)likelihood×P(θ)prior
正如其他人所提到的,prior 向您展示了对您的模型的初始、数据外、信念,然后使用观察到的数据进行更新。因此,您可以将之前的平均值设置为零,并且如果观察到的数据提供了足够的信息以便将其移动到另一个值,则后验将不同于零。这个想法实际上经常用于目的,例如 Spiegelhalter (2004) 描述为不同的先验可能有助于针对数据测试不同的假设并促进决策,其中零均值先验可以用作“怀疑”先验。
由于一张图片(有时)值一千字,您可以自己检查并运行JavaScript 库bayes.js中的一个示例,用于 MCMC 采样。该示例说明了用于估计的简单模型μ和σ对于正态分布(即,如果您更喜欢这样考虑,则仅截距回归),其中模型定义如下:
xi∼Normal(μ,σ)
μ∼Normal(0,100)
σ∼Uniform(0,100)
您可以运行该示例来说服自己不需要太多的 MCMC 迭代来使算法收敛并且使后验均值从先前的零更新到大约185. 先验均值不是我们想要的后验均值,而是我们在查看数据之前对我们的模型的看法,所以通常这是一个合理的选择。
Spiegelhalter,DJ(2004 年)。将贝叶斯思想纳入医疗保健评估。 统计科学, 156-174。