后验概率可以> 1吗?

机器算法验证 可能性 贝叶斯 条件概率
2022-02-06 08:39:12

在贝叶斯公式中:

P(x|a)=P(a|x)P(x)P(a)

后验概率可以超过 1 吗?P(x|a)

我认为有可能,例如,假设但我不确定这一点,因为概率大于一意味着什么?0<P(a)<1P(a)<P(x)<1P(a)/P(x)<P(a|x)<1

3个回答

不,后验概率不可能超过一。 这将违反概率论的规范公理。在您的问题中,您指定作为示例的一部分。但是,使用条件概率规则,您必须具有:P(a)/P(x)<P(a|x)

P(a|x)=P(a,x)P(x)P(a)P(x).

这意味着你不能有你指定的不等式条件。(顺便说一句,这是一个很好的问题:你探索概率定律寻找问题是很好的。这表明你比大多数学生更严格地探索这些问题。)

补充一点:关于这种情况值得补充一点,即概率不同特征的逻辑优先级。请记住,概率论从一组公理开始,这些公理描述了概率测度实际上是什么。从这些公理我们可以推导出“概率规则”,它们是从这些公理推导出来的定理。这些概率规则必须与有效的公理一致。如果您发现概率规则导致与公理之一的矛盾(例如,样本空间的概率大于一),这不会证伪公理 -它会证伪概率规则因此,即使是这种情况,贝叶斯规则也可以导致后验概率大于一(它不会),这并不意味着您的后验概率可以大于一;它只是意味着贝叶斯规则不是有效的概率规则。

贝叶斯公式不能给出超过的值。一种直观的方式是通过总概率定律将 P(A) 表示为 给出 这表明分子只是分母和中的一项,因此分数值不能超过P(BA)=P(AB)P(B)P(A)P(BA)1P(A)

P(A)=P(AB)P(B)+P(ABc)P(Bc)
P(BA)=P(AB)P(B)P(A)=P(AB)P(B)P(AB)P(B)+P(ABc)P(Bc)
1

假设条件不成立——根据条件概率的定义永远不可能为真P(a)/P(x)<P(a|x)

P(a|x)=P(ax)/P(x)P(a)/P(x)