这两种方法都可以完成：我建议在您刚刚使用梯度方法时在每批之后进行验证，看看验证准确度是上升还是下降，并弄清楚一切进展如何。

在这种情况下，您可以采用early stop，尽管有很多方法可以防止过拟合。提前停止在一个 epoch 结束时检查您的验证准确性，并保存模型（如果它是迄今为止最好的）。如果在接下来的验证准确性没有增加$n$时代（在这里$n$是您可以决定的参数），然后您保留上次保存的模型并停止渐变方法。

验证损失可能低于训练损失，这种情况有时会发生。在这种情况下，您可以声明您没有过度拟合。