为什么条件概率不足以描述因果关系?

人工智能 哲学 比较 条件概率 因果关系
2021-11-04 09:04:39

我从 Judea Pearl 读到这些评论说我们没有因果关系,物理方程是对称的,等等。但条件概率显然不是对称的,并且捕获了有向关系。

如果有人说条件概率已经抓住了我们展示因果关系所需的一切,Pearl 会如何回应?

4个回答

也许这个问题的最短答案是贝叶斯定理本身允许我们轻松改变条件概率的方向:

P(A|B)=P(B|A)P(A)P(B)

所以如果你有P(B|A),P(A), 和P(B),我们可以确定P(A|B),同样你可以确定P(B|A)P(A|B),P(B)P(A). 只是看着P(B|A)P(A|B),因此不可能说出因果方向是什么(如果有的话)。

事实上,概率推理通常反过来起作用:当存在已知的因果关系时,比如来自疾病 A症状_ B,我们通常有P(B|A),并且对确定的诊断推理任务感兴趣P(A|B)从此。(我们唯一需要的另一件事是先验概率P(A)自从P(B)只是一个归一化因子。)

但是条件概率显然不是对称的,并且捕获了有向关系。

需要考虑由条件概率捕获的有向关系的种类。它确实捕捉到了某种可以被引导的关联或依赖。同时,说它肯定抓住了因果关系是不对的。

让:

太阳升起 =A, 公鸡乌鸦 =B, 然后,P(A|B)必然很高,但不代表鸡叫引起日出。

如果有人说条件概率已经抓住了我们展示因果关系所需的一切,Pearl 会如何回应?

他会要求他回学校。

关于对称

珍珠不对称的意思是:A=BB=A完全相同,并在非因果科学框架中导致相同的结果。例如考虑非常简单的一组方程:

Z=ϵzX=Z+ϵXY=2X+Z+ϵy

从代数的角度来看,这是一组 3 个方程和 3 个未知数(考虑已知的误差项)。您可以打乱方程,更改方程的 LHS 和 EHS,添加或减去它们。事实上,这些动作实际上很适合求解线性方程组,对吧?!所以上面的系统与此相同:

ϵz=ZX=Y2ZϵYϵXY=2X+Z+ϵy

但是我给你带来了这个例子,因为第一个是一组方程,用于一个非常基本的因果结构,称为混杂共同原因结构,其中X是暴露或治疗,Y是结果,并且Z是两者的父母XY. 这个结构方程模型中方程的顺序和 RHS/LHS 变量实际上是有意义的。首先你计算Z, 然后去X, 然后计算Y. 在这种情况下,第二个系统指向一个完全不同的因果结构(或者说实话,它甚至看起来不像一个合法的结构方程)

关于因果推理概率论的充分性

首先,我想说这对 Pearl 来说是一个非常具有讽刺意味的问题,正如他在一次采访中提到的那样,因为他对贝叶斯网络和贝叶斯推理框架的概率论领域做出了重大贡献!而现在,他就像是在反对自己。但他是有充分理由的。

为什么概率是不够的,可以并且已经用正式的证明、方程式和解释来回答。但是有很多例子会引起你对这个真理的注意。我建议您阅读有关辛普森悖论的内容。这将是一个很好的例子,可以看出概率论是如何无法进行因果推理的。

概率不够的事实,只是类似于相关不一定是因果的想法。这是真的。再次,阅读虚假相关性,你会明白的。想想这个有趣的例子:在这一年里,犯罪率和冰淇淋销量是高度相关的,因此我们必须禁止冰淇淋销售来控制犯罪率。这种愚蠢推论的问题在于,我们没有考虑到导致感知相关性的常见原因是炎热夏季

为什么条件概率不足以描述因果关系?

假设,当某个区域的气压下降到某个水平以下时,会发生两件事

  1. 气压计中水银柱的高度低于某个水平

  2. 风暴发生

我们可能很想用下面的图形模型来模拟这些关系,其中每个有向边代表一个因果关系,因此,例如,气压下降会导致风暴。

在此处输入图像描述

然而,这个图形(和因果)模型可能是错误的(并且不直观),因为气压下降可能只与风暴相关,因此它不是风暴的原因

我们如何才能看出气压下降是否是风暴的原因?

我们可以比较概率P(Ado(B))P(AB), 在哪里A是“暴风雨发生”的事件,并且B是“气压下降”事件。做什么do(B)意思是?这意味着我们强制事件B发生,也就是说,我们迫使气压下降发生。直观地说,那么两者之间有什么区别P(Ado(B))P(AB)? 如果是P(Ado(B)), 我们强制事件B总是发生。如果是P(AB),我们只是被动地看事件的案例A当事件B发生(没有因此强迫B发生)。我们现在知道两者的区别P(Ado(B))P(AB). 但是,这如何帮助我们理解B不是原因A? 如果B是一个原因A,那么,如果我们强迫B总是发生,那么概率A也应该相应地改变。然而,想象一下我们(神奇地)能够降低气压,如果A没有相应变化(在这种情况下,如果它没有增加),那么风暴不是气压下降的影响。

总而言之,Judea Pearl 会说分析因果关系需要做操作符(或干预)。

斯坦福哲学百科全书的文章概率因果关系很好地概述了(概率)因果关系(或因果关系)领域。特别是,请看第 3 节,它描述了因果建模(根据 Pearl 的说法)。因果建模和推理实际上涉及几个需要一些时间来熟悉的重要概念,例如干预(或做操作)、几个基本的因果关系(例如分叉、链和对撞机)、d-分离或贝叶斯网络。