如果'B更有可能给出A',那么'A更有可能给出B'

机器算法验证 可能性 推理 条件概率 直觉 关联度量
2022-03-18 05:17:36

我试图让背后有一个更清晰的直觉:“如果使更有可能,那么使更有可能”即ABBA

表示所在空间的大小,则n(S)AB

声明:所以P(B|A)>P(B)n(AB)/n(A)>n(B)/n(S)

所以n(AB)/n(B)>n(A)/n(S)

P(A|B)>P(A)

我理解数学,但为什么这具有直观意义?

4个回答

我认为另一种数学表达方式可能会有所帮助。考虑贝叶斯规则背景下的声明:

声明:如果P(B|A)>P(B)P(A|B)>P(A)

贝叶斯法则:

P(AB)=P(BA)P(A)P(B)

假设非零。因此P(B)

P(A|B)P(A)=P(B|A)P(B)

如果 ,则P(B|A)>P(B)P(B|A)P(B)>1

然后,所以P(A|B)P(A)>1P(A|B)>P(A)

这证明了这一主张和一个更强有力的结论——可能性的各自比例必须相等。

好吧,我不喜欢问题中的“制造”一词。这意味着某种因果关系,并且因果关系通常不会逆转。

但你要求直觉。所以,我会考虑一些例子,因为这似乎激发了直觉。选择一个你喜欢的:

如果一个人是女性,则该人更有可能投票支持民主党。
如果一个人投票给民主党人,那么这个人更有可能是女性。

如果一个人是职业篮球中锋,他身高超过2米的可能性更大。
如果一个人身高超过2米,他更有可能是一名篮球中锋。

如果超过40摄氏度,则更有可能发生停电。
如果已经停电,则更有可能超过 40 度。

等等。

凭直觉,Peter Flom 给出的真实世界示例对某些人最有帮助。通常帮助人们的另一件事是图片。所以,为了涵盖大多数基础,让我们有一些图片。

显示独立性的条件概率图 显示依赖关系的条件概率图

我们这里有两个显示概率的非常基本的图表。第一个显示了两个独立的谓词,我称之为 Red 和 Plain。很明显,它们是独立的,因为线排成一行。平原区域为红色的比例与条纹区域为红色的比例相同,也与总的红色比例相同。

在第二张图片中,我们有非独立分布。具体来说,我们将一些纯红色区域扩展到了条纹区域,而没有改变它是红色的事实。很明显,红色使人更有可能变得平淡。

同时,看看该图像的平淡的一面。很明显,平原区域中红色的比例大于整个图像中红色的比例。那是因为平原地区被赋予了更多的区域,而且都是红色的。

因此,红色使纯色更有可能,而纯色使红色更有可能。

这里到底发生了什么?当包含 A 和 B 的区域大于它们独立时的预测时,A 是 B 的证据(即 A 使 B 更有可能)。因为 A 和 B 之间的交集与 B 和 A 之间的交集相同,这也意味着 B 是 A 的证据。

需要注意的一点:尽管上述论点似乎非常对称,但两个方向的证据强度可能并不相同。例如,考虑这第三张图像。 同样的事情也发生了:纯红色已经吞噬了以前属于条纹红色的领域。事实上,它已经完全完成了工作!显示极端依赖的条件概率图

请注意,完全红色的点保证了清晰,因为没有留下条纹红色区域。然而,平坦的点并不能保证红色,因为仍然存在绿色区域。然而,盒子中的一个点是普通的会增加它是红色的机会,而一个点是红色的会增加它是普通的机会。两个方向都意味着更有可能,只是数量不同。

补充@Dasherman的答案:说两个事件是相关的,或者可能是相关的或相关的意味着什么?也许我们可以为一个定义比较联合概率(假设P(A)>0,P(B)>0):

η(A,B)=P(AB)P(A)P(B)
因此,如果η大于一,AB比独立时更经常一起发生。那么我们可以这么说AB是正相关的。

但是现在,使用条件概率的定义,P(AB)P(A)P(B)>1是一个简单的结果P(BA)>P(B). P(AB)P(A)P(B)是完全对称的AB(交换所有出现的符号AB反之亦然)留下相同的公式,因此也等价于P(AB)>P(A). 这给出了结果。所以你要求的直觉是η(A,B)是对称的AB.

@gunes 的回答给出了一个实际的例子,很容易让其他人以同样的方式。