在贝叶斯模型中,您可以使用 Uniform(-inf, inf) 作为先验吗?

机器算法验证 贝叶斯 事先的 均匀分布 大都会黑斯廷斯 无信息先验
2022-03-18 03:13:45

在贝叶斯模型中,您可以使用 Uniform(-inf, inf) 作为先验吗?

我问是因为在课堂上,我们查看了 MH MCMC 采样器,并表明要从分布中采样,我们不需要明确求解分母,因为分子与后验成正比,这将告知采样器应该在哪里花费更多/更少的时间,所以你真的只需要关心先验和可能性条款。

我问了一个问题,“如果分子中的前一项只是将可能性乘以 1 怎么办?” 我的教授说,“这类似于指定一个统一的先验,支持从负无穷到正无穷,因为没有范围限制,并且参数可以采用的每个值的权重都相同。”

首先,我不确定这是否可行。其次,我听说“确实没有任何不具信息性的先验”,尽管这听起来与先验一样不具信息性。

有人可以澄清一下吗?

2个回答

在此处输入链接描述在此处输入图像描述

在这个论坛上,有很多关于平面先验的相关问答。它们不是统一的先验,因为它们不是分布,而是σ-有限度量(具有无限质量),并且由于这些答案(和贝叶斯教科书)中详述的许多原因,它们不是最信息或无信息的先验。如果后附有可能f(x|θ)和一个平坦(常数)的先验π(θ)=c是明确定义的,即可以将随机变量的几乎所有实现归一化为概率密度X在观察到的数据背后,

Θf(x|θ) dθ<xa.s.
那么使用标准贝叶斯框架的这种扩展是可以接受的。

注意:这个问题与 MCMC 无关(尽管不应使用带有不正确后验的 MCMC)。正确的条目关键字是所有贝叶斯教科书improper priors的一节或一章不正确的先验是σ- 有限的措施π()(具有无限质量)可用作提供的事先措施

Θf(x|θ)π( dθ)<xa.s.
平坦先验(在无限空间上)是不正确先验的特殊情况,但不是非常特殊的情况,因为平坦先验在大多数重新参数化(变量变化) 下不会保持不变

如果您只对参数估计感兴趣,那么是,您可以使用(不正确的先验,例如)统一先验,而 Jeffreys(1961,概率论,克拉伦登出版社)在这种情况下经常这样做。然而,任何在参数上具有不恰当先验的模型在模型比较时都会遇到一个大问题:计算其中的边际似然涉及除以不恰当先验的无限大配分函数。结果,具有不适当先验的模型的边际似然和后验概率将比具有适当先验的任何模型的边际似然和后验概率小无限倍。