人工智能的子领域会发生什么?(ML, 深度学习)

机器算法验证 机器学习 神经网络 支持向量机 术语 人工智能
2022-04-01 21:54:29

我在理解 AI 的子领域及其工作原理方面存在问题。

AI 具有机器学习(ML)子区域,其中使用了学习算法。监督/无监督学习发生在该领域。学习算法有,例如:各种回归、SVM、神经网络。

ML 还有一个子领域——深度学习(DL)。在这里,学习是通过具有隐藏层的人工神经网络(ANN) 进行的。

但我认为神经网络是学习算法,我们已经在 ML 子领域使用了它们。

  1. ML 中的神经网络与 DL 中的神经网络不同吗?
  2. 深度学习总是与神经网络一起工作吗?
  3. 如果你在 ML 中使用 SVM 而不是神经网络,你还在 DL 中使用神经网络吗?
  4. 还是 DL 总是与神经网络一起工作?
3个回答

这只是一个术语,不用考虑太多,因为不同的人将不同的领域分为不同的类别。例如,很多统计学家会认为机器学习是统计学的一个子领域,人工智能领域的人会认为机器学习是人工智能研究的一个子领域,而从事计算机科学工作的人会认为它是统计学的一个子领域。计算机科学。

考虑到这一点,要理解的是,“深度学习”与“机器学习”并不是一个不同的领域,而是其中的一部分。就像“建造桥梁”是“力学”的子部分一样,“力学”是“物理”的子部分。在您的问题的背景下 - 神经网络与深度神经网络,这有点像问多长的桥梁与较短的桥梁不同。涉及不同的工具和技术,但概念是相同的。

所以,你的问题:

1) 神经网络没有什么不同,它们只是通常需要有更多的参数(“更大”)才能被标记为“深度”中性网络。

2)不一定,神经网络本身,松散地,可以被认为是多个逻辑回归叠加在一起。每当您创建一个模型并将其结果提供给另一个模型,然后是另一个模型等,并尝试将这些模型一起“训练”时,您都可以认为这种架构是“深度”的。

3) 通常,如果您使用“深度学习”一词,每个人都会认为您在谈论神经网络,因为这是当前的趋势,而且“深度学习”一词首先应用于神经网络。因此,如果您使用任何其他架构,则必须指定它以免混淆其他人。

4) 由 2) 回答

同意卡罗利斯在“没有硬性界限”中的回答。此外,

  1. 当然,这是相同的架构。然而,虽然我们对神经网络的层数没有硬性阈值,但在深度学习中,我们更感兴趣的是具有大量层数的神经网络,而不是 1 或 2。

  2. 通常,是的。参见维基百科页面,例如:

深度学习是基于具有表示学习的人工神经网络的更广泛的机器学习方法家族的一部分。

但是,这并不意味着它会一直如此。最近开发了许多新架构,例如学习任意图结构的图神经网络。这是神经网络对图的扩展,但也与我们习惯的全连接神经网络有很大不同。但是,并非所有这些新架构都必须适合 ANN 主题,我们可能需要在不久的将来扩展定义。

  1. 不知道你问了什么。

我会第二个 user2974951 的评论 (+1)。深度学习需要在方法中进行堆叠或分层。

Karolis (+1) 完全回答了第 1、2 和 4 点。

关于第 3 点:有些作品结合了 SVM 和 DNN。(例如 Tang (2013)使用线性支持向量机的深度学习,它在用 L2-SVM 替换 softmax 激活函数方面显示出非常有希望的结果,或 Jiu (2017)用于图像注释的非线性深度内核学习,其中多个内核学习在一个深度学习框架。)除此之外,像高斯过程这样的内核方法在有效堆叠时也出现了复苏(例如,参见 Damianou & Lawrence (2013) Deep Gaussian Processes for fullrecurrent way of stacking GPs or Dunlop et al . (2018) How Deep Are Deep Gaussian Processes?进行更深入的讨论)。