正常的无信息先验密度

机器算法验证 可能性 贝叶斯 无信息先验
2022-03-10 13:29:37

贝叶斯数据分析(第 64 页)说,关于正常模型

一个合理的模糊先验密度μσ,假设位置和尺度参数的先验独立性,在(μ,logσ), 或者, 等价地,

p(μ,σ2)(σ2)1.

为什么统一结束p(μ,logσ)相当于p(μ,σ2)(σ2)1?

为什么这是一个“明智的”先验?

1个回答

ϕ=log(σ)=12log(σ2)这样你就有了逆变换σ2=exp(2ϕ). 现在我们应用随机变量转换的标准规则得到:

p(σ2)=p(ϕ)|dϕdσ2|112σ2(σ2)1.

由于参数在此先验中是独立的,因此我们有:

p(μ,σ2)=p(μ)p(σ2)(σ2)1.

这给出了不正确的先验密度的规定形式。至于为什么这个先验是明智的,有几种上诉途径。最简单的理由是我们想采取μlogσ统一表示对这些参数的“无知”。取方差的对数是一种转换,可确保我们对该参数的信念是尺度不变的。(我们对平均参数的信念也是位置和尺度不变的。)换句话说,我们希望我们对两个参数的无知表示对于变量测量尺度的任意变化是不变的。

对于上面的推导,我们在对数方差参数上使用了不正确的统一先验。可以通过对趋于均匀的对数尺度使用适当的先验,并找到与此相对应的方差的适当先验,然后取极限来获得当前先验方差不正确。这实际上只是反映了一个事实,即不正确的先验通常可以解释为正确先验的限制。

对于这种不恰当的先验,还有许多其他可能的理由,这些都诉诸于表示先验“无知”的理论。关于这个主题有大量文献,但在Irony 和 Singpurwalla (1997) (与 José Bernardo 的讨论)中可以找到更简短的讨论,其中讨论了我们试图表示“无知”的各种方法。您在这里处理的不正确先验是正态模型的共轭先验的限制版本,每个参数的先验方差取为无穷大。