通过开发用于概率和因果推理的微积分对人工智能的基本贡献。
他因发明了贝叶斯网络和因果推理框架而受到赞誉。
为什么要研究人工智能中的因果关系和因果推理?因果关系如何融入机器学习等其他主题?存在无法从数据中检索到的事实或关系(例如因果关系),这是 ML 的驱动力。研究因果关系还有其他原因吗?
通过开发用于概率和因果推理的微积分对人工智能的基本贡献。
他因发明了贝叶斯网络和因果推理框架而受到赞誉。
为什么要研究人工智能中的因果关系和因果推理?因果关系如何融入机器学习等其他主题?存在无法从数据中检索到的事实或关系(例如因果关系),这是 ML 的驱动力。研究因果关系还有其他原因吗?
您的问题中有两个混合元素:
为什么人们已经研究了人工智能中的因果关系?
为什么人们愿意继续研究人工智能中的因果关系?
tl;dr:如果没有某种方式理解不确定性,人工智能系统就无法在现实世界中运行。除非我们也了解因果结构,否则我们必须了解不确定性的最佳方法不会奏效。获得这种理解的大部分方式是人工智能研究的一项巨大成就,但这里仍有一个大问题等待解决。
对于第 1 部分,让我们考虑一下因果关系研究的来源。Pearl 最初着手解决 1980 年代困扰 AI 研究人员的一个主要问题:不确定性下的推理。这个领域对人工智能系统如此重要,以至于它有自己的大型会议:UAI. 由于现实世界充满了不确定性,因此需要在不确定性下进行推理。甚至考虑一个简单的问题,比如让机器人在一个空房间里导航。即使机器人准确地知道它的初始位置,它也不可能长时间知道它的真实位置。机器人的轮子可能有一定的规格,但轮子会粘住和打滑(摩擦),而且它们的发生是不可预测的(例如,可能地板的一部分没有像其他部分那样抛光)。机器人可能有传感器,但传感器并不完美。光传感器值 0.25 是否意味着附近有一堵墙,或者只是太阳以一个不幸的角度从窗户射进来?或者也许只是那里的油漆色调略有不同?我们的声学传感器读数 1.35 是否意味着我们距离墙壁 1.35 米,
珀尔的主要贡献之一是展示了我们如何使用概率规则来正确推理这些事件。虽然其他人早就做了这方面的基础,但珀尔提出了贝叶斯网络的想法。Thrun和许多其他人使用这些技术来解决上面讨论的机器人导航任务等问题。
贝叶斯网络的一个问题是,如果构建不正确,它们会失去大部分效率优势。正确的结构通常是最能捕捉已知因素之间因果关系的结构。此外,贝叶斯网络中的推理算法不能轻易回答有关反事实的问题。他们无法告诉我们的机器人在采取某些行动的世界中会发生什么。他们只能说某些行为是否可能同时发生。
这些突出的问题导致珀尔致力于因果关系和因果网络。对我们的系统来说,能够回答反事实问题很重要,因为这些问题的答案通常决定了系统如何行动。珀尔的 do-calculus(在此进行了很好的总结,在珀尔的《为什么书》中进行了很好的总结)解决了这个问题,并展示了通常如何仅从观察中推断出原因。超级刺激!
希望您现在确信因果关系值得在 AI 中研究。您现在可能想知道为什么它仍然值得研究。
目前主要的开放问题是,要进行因果推理,我们需要已经有一个描述因果关系的网络。这些网络很难手工构建,所以我们希望能够学习这些网络的结构。不幸的是,这看起来是一个非常困难的问题,既要准确解决(如果我没记错的话,它是#P-hard )和近似。至少截至 2018 年,还没有已知的通用算法。获得这将是人工智能研究的重大突破,更普遍的是,在统计学、科学哲学和认识论方面。即使在大多数情况下得到最有效的东西,也会是巨大的。Peter Van Beek最近一直在做这方面的工作,如果您想了解更多信息,这可能是一个很好的起点。