在谈论神经网络（现在尤其是深度神经网络）时，网络的参数几乎总是比训练样本多得多。

理论上，一个简单的两层神经网络$2n+d$参数能够完美拟合任何数据集$n$尺寸样本$d$ （张等人，2017）。因此，要回答您的问题，拥有如此大的模型可能会导致过度拟合。

深度神经网络最棒的地方在于，尽管存在这些潜在的过拟合问题，它们仍能很好地工作。通常是由于训练/优化算法和网络架构中隐含的各种正则化效果，以及显式使用的正则化方法，例如 dropout、权重衰减和数据增强。我的论文《深度学习的正则化：分类法》深入描述了其中一些影响。

具有许多参数的明显好处是您可以表示比使用较少参数的函数要复杂得多。神经网络建模的关系通常非常复杂，使用小型网络（使网络的大小适应训练集的大小，即仅使用小模型使您的数据看起来很大）可能会导致问题您的网络过于简单，无法表示所需的映射（高偏差）。另一方面，如果你有很多参数，网络足够灵活来表示所需的映射，你总是可以使用更强的正则化来防止过度拟合。

要回答问题的最后一部分：参数的数量完全由网络中的层数、每层中的单元数以及输入和输出的维度定义。

有关详细信息，另请参阅模型过度拟合和参数数量之间的关系。