浅层是指模型只有很少或只有一个隐藏层。当它有很多隐藏层时，它将是一个深度神经网络。
和积基本上是隐藏层的神经元。

来自论文—— 具有多个隐藏层
的人工神经网络，称为深度神经网络，因其在各种机器学习任务中的空前成功而变得流行（参见，例如，Krizhevsky et al. 2012, Ciresan et al. 2012, Goodfellow等人 2013，Hinton 等人 2012）。鉴于这些经验证据，深度神经网络正变得越来越优于浅层网络（即具有单层隐藏单元），并且通常以超过五层的方式实现

单个和积隐藏层汇总了一层乘积单元，然后是一层总和单元。

浅层和深层的确切定义是一个移动的数字，取决于人工智能研究的进展。

虽然直观的是，如果 3 层模型每层需要 5 个神经元，那么单个分层模型应该有 15 个神经元。
但它实际上需要的不仅仅是这个
。很难得到一个结论性的答案，但有两个著名的原因是 -

• 我们的数据通常具有潜在的分层性质，即图像数据
• 与电路理论类比（检查 Ref#2 和 #4）

实际原因似乎是它与 GD/Backprop 一起工作，并且研究朝着这个方向发展。您可能会阅读列出的参考资料，并发现没有专家对此有决定性的看法。

参考 -
1. 深度学习书籍 - 6.4 架构设计
2. 神经网络和深度学习，Michael Nielsen 3. 斯坦福 CS 课程 CS231n 4. Andrew Ng 深度学习课程 - C1W4L04