为什么用于贝叶斯因子和 p 值的截止值如此不同?

机器算法验证 假设检验 贝叶斯 p 值 贝叶斯因子
2022-03-26 01:04:49

我想了解贝叶斯因子(BF)。我相信它们就像两个假设的似然比。因此,如果 BF 为 5,则意味着 H1 的可能性是 H0 的 5 倍。并且值 3-10 表示中等证据,而>10 表示强证据。

然而,对于 P 值,传统上将 0.05 作为截止值。在此 P 值下,H1/H0 似然比应约为 95/5 或 19。

那么为什么 BF 的截止值 >3 而 P 值的截止值 >19 呢?这些值也不是很接近。

3个回答

一些东西:

BF 为您提供支持假设的证据,而常客假设检验为您提供反对(零)假设的证据。所以它有点像“苹果到橘子”。

这两个程序尽管有不同的解释,但可能会导致不同的决定。例如,BF 可能会拒绝,而常客假设检验不会,反之亦然。这个问题通常被称为Jeffreys-Lindley 悖论这个网站上有很多关于这个的帖子;参见例如这里这里

“在这个 P 值下,H1/H0 的可能性应该是 95/5 或 19。” 不,这不是真的,因为大致至少计算 p 值和执行频率测试不需要您对有任何了解。此外,p 值通常是密度/pmfs 的积分/总和,而 BF 不会在数据样本空间上积分。p(yH1)1p(yH0)p(yH1)

贝叶斯因子B01可以转化为 等权重下的概率,但这并不能使它们可与相比较,因为

P01=11+1B01
p

  1. P01是参数空间中的概率,而不是采样空间中的概率
  2. 它的值和范围取决于先前度量的选择,因此它们是相对的而不是绝对的(泰勒提到林德利-杰弗里斯悖论在这个阶段是恰当的
  3. 通过在参数空间上积分来包含复杂性的惩罚(奥卡姆剃刀)B01P01

如果您希望考虑贝叶斯等价于值,则应研究 后验预测(Meng, 1994) 其中表示观察值,是从后验预测 但这并不意味着拒绝和重要性的相同“默认”标准应该适用于该对象。p p

Q01=P(B01(X)B01(xobs))
xobsX
XΘf(x|θ)π(θ|xobs)dθ

您的一些困惑可能源于直接从 p 值为 0.05 的事实中获取数字 95/5 - 这是您在做什么?我不相信这是正确的。例如,t 检验的 p 值反映了在零假设实际上为真时获得观察到的均值或更极端差异的机会。如果你得到 0.02 的 ap 值,你会说‘啊,如果 null 为真,那么只有 2% 的机会得到这样的差异,或者更大的差异。这似乎不太可能,所以我建议空值不正确!'。这些数字与贝叶斯因子不同,贝叶斯因子是每个竞争假设的后验概率之比。这些后验概率的计算方式与 p 值不同,

作为旁注,我建议强烈反对将不同的 BF 值视为特定事物的含义。这些分配是完全任意的,就像 0.05 显着性水平一样。如果人们开始相信只有特定的数字值得考虑,那么使用贝叶斯因子同样容易出现 p-hacking 等问题。试着去理解它们是什么,比如相对概率,并用你自己的感觉来确定你是否找到了一个 BF 数字令人信服的证据。