深度神经网络 (DNN) 只不过是一个具有多层的神经网络，其中多层可能是主观的。

恕我直言，任何具有 6 层或 7 层或更多层的网络都被认为是深度网络。因此，以上将形成深度网络的一个非常基本的定义。

深度网络与“正常”网络有两个主要区别。

首先是计算能力和训练数据集已经大幅增长，这意味着运行更大的网络是切实可行的并且在统计上是有效的（也就是说，我们有足够的训练示例，我们不会在更大的网络中遇到过拟合问题）。

第二个是你拥有的层数越多，反向传播就会受到限制；每一层都代表误差的梯度，所以当一层大约六层深时，修改神经元权重的误差已经不多了。但人们可能会合理地期望早期神经元比晚期神经元更重要，因为它们代表更接近原始输入的“概念”。

新的训练技术回避了这个问题，通常是通过对原始输入进行无监督学习，创建更高级别的“概念”，然后用作监督学习的输入。

（例如，考虑从像素中确定图像是否包含猫的问题。网络的早期层应该做诸如检测边缘之类的事情，人们可以期望这些边缘在所有图像之间共享，并且大部分独立于什么一种是尝试处理输出层，因此也很难通过“cat-not cat”信号进行多次训练。

人工神经网络的一般结构

输入层 + 隐藏层 + 输出层

如果人工神经网络中有更多的隐藏层，则该神经网络称为深度神经网络。究竟有多少个深度神经网络构成了一个争论点，但一般来说，隐藏层越多，神经网络就越深。

谈到为什么它们如此受欢迎或如此重要，随着深度神经网络的出现，物体检测、分类、人脸识别、语音识别等许多问题都得到了解决。毫不夸张地说，深度神经网络在上述许多任务中的表现甚至超过了人类的表现。这意味着现在计算机是完成上述任务的最佳人选。近 5 年来，上述所有问题都存在于研究领域。仅仅因为深度神经网络的成功，所有这些问题仅在过去的 4,5 年中才得以完美解决。这就是为什么它们非常受欢迎和重要的原因。我提到的问题很少，深度神经网络在过去十年中轻松解决了许多类似的任务。

而且，此时此刻，世界各地的许多人都在致力于使用深度神经网络解决无数应用程序。