深度学习、深度神经网络、人工神经网络和其他术语之间的确切区别是什么?

数据挖掘 神经网络 深度学习 美国有线电视新闻网 rnn
2022-02-14 20:51:26

在阅读了一些理论之后,我对以下术语感到有些困惑:

  • 深度学习
  • 深度神经网络
  • 人工神经网络
  • 前馈神经网络

所以,对我来说似乎很清楚的是,深度神经网络是具有多层(通常超过 1 个隐藏层)的人工神经网络。但是我读过几次:

“深度神经网络是具有多层的前馈神经网络。”

我知道什么是前馈神经网络,但据我了解,深度神经网络是所有人工神经网络的一个术语,在输入和输出层之间具有多层?不应该还有例如深度递归神经网络吗?深度神经网络必须前馈神经网络是否正确?这反过来意味着深度递归神经网络不能被称为深度神经网络。

此外,我看到有各种各样的深度学习架构,例如:

  • 卷积神经网络

  • 残差神经网络

  • 深度信念网络

  • 深玻尔兹曼机

  • ...

然而,现在维基百科也让我很难区分所有的术语,说:“深度学习架构,如深度神经网络、深度信念网络、递归神经网络和卷积神经网络,已应用于包括……在内的领域。”

因此,我从上述所有想法中提出的具体问题是:

  1. 深度神经网络一词是否仅属于前馈神经网络?

  2. 如果 1) 的答案是肯定的:维基百科的定义是否正确,因为您可以在那里阅读它?这意味着即具有多个层的卷积神经网络必须称为深度卷积神经网络,它不是深度神经网络的子类吗?

  3. 深度神经网络一词是所有多层人工神经网络的统称,还是仅适用于所有多层前馈神经网络?

  4. 正如维基百科所建议的那样,使用具有严格分离的子类的集体术语“深度学习架构”会更准确吗?

1个回答

我会尽量用最简单的方式来解释——

深度学习 -深度学习是一种机器学习技术,它教计算机做人类自然而然的事情:通过例子学习。它是机器学习的一个子类,其中(通俗地说)我们只使用神经网络。https://www.mathworks.com/discovery/deep-learning.html

深度神经网络 (DNN) -这只是具有多层和层中许多节点的神经网络的术语,通常在浅层网络中找不到。浅层和深层神经网络之间没有明确的界限。我建议您观看 Andrew Ng 的深度学习课程以更好地理解。

人工神经网络 (ANN) -这只是神经网络的另一个术语,所有神经网络都是 ANN 的。

前馈神经网络 -它是一种没有反馈连接的神经网络。用技术术语来说,信息在前向传播阶段仅沿一个方向(输入到输出)流动。 https://towardsdatascience.com/deep-learning-feedforward-neural-network-26a6705dbdc7

不应该还有例如深度递归神经网络吗?

不需要深度循环神经网络,它只是循环神经网络。

深度神经网络必须前馈神经网络是否正确?

不,RNN 是一种深度神经网络,它不是前馈神经网络。

所以,为了回答你的问题,

  1. 深度神经网络一词是否仅属于前馈神经网络?

不,深度神经网络一词属于所有具有多层的神经网络。(架构无关紧要)。

  1. 深度神经网络一词是所有多层人工神经网络的统称,还是仅适用于所有多层前馈神经网络?

是的,它是所有多层人工神经网络的统称。

  1. 正如维基百科所建议的那样,使用具有严格分离的子类的集体术语“深度学习架构”会更准确吗?

深度学习架构只是指用于不同任务的不同神经网络架构 - CNN 用于图像处理,RNN 用于序列(文本、音频等)处理等。因此,当您执行特定任务时,您可以使用相关的架构名称. 出于一般目的,您可以只使用术语 DNN。

希望这能消除您的困惑。