它们似乎都代表节点的随机变量和通过(可能有向的)边的(独立)独立性。我对贝叶斯的观点特别感兴趣。
层次模型、神经网络、图形模型、贝叶斯网络之间有什么关系?
贝叶斯网络是一种图形模型。另一种“大”类型的图形模型是马尔可夫随机场(MRF)。图形模型用于推理、估计,通常用于对世界进行建模。
分层模型一词用于表示不同领域的许多事物。
虽然神经网络带有“图”,但它们通常不编码依赖信息,并且节点不代表随机变量。NN 是不同的,因为它们具有区分性。流行的神经网络用于分类和回归。
凯文·墨菲 (Kevin Murphy) 对这些可用的主题进行了出色的介绍。
正如@carlosdc所说,贝叶斯网络是一种图形模型(即,有向无环图(DAG),其结构定义了一组条件独立属性)。分层贝叶斯模型也可以表示为 DAG;Bellazzi 等人的《用于不确定数据的分层朴素贝叶斯分类器》很好地介绍了使用此类模型进行分类。关于分层模型,我认为通过谷歌搜索可以检索到许多文章,并使用适当的关键字;例如,我发现了这个:
CH Jackson、NG Best 和 S. Richardson。用于对具有不同变量的多个数据集进行回归的贝叶斯图形模型。 生物统计学(2008) 10(2): 335-351。
Michael I. Jordan 有一个很好的图形模型教程,在生物信息学或自然语言处理中具有基于阶乘隐马尔可夫模型的各种应用。他的书《Learning in Graphical Models 》 (麻省理工学院出版社,1998 年)也值得一读(GMs 用于使用BUGS代码进行结构建模,第 575-598 页)
神经网络不需要先验,但神经网络的每个隐藏节点(神经元)可以被认为是 CPD - 线性节点的噪声 OR/AND CPD - 逻辑节点的 Sigmoid CPD
因此,神经网络可以被视为多层隐藏节点,每层都有线性/S形CPD
Koller 在 Coursera 上的课程或她的教科书应该是 CPD 类型的一个很好的参考。