阅读以下论文。这是一本很棒的书。关于深度学习的大批量训练：泛化差距和 Sharp Minima，Nitish Shirish Keska 等人，ICLR 2017。

在比较不同批次大小的效果的基准数据集上有很多很好的讨论和实证结果。正如他们总结的那样，大批量会导致过度拟合，他们解释了它收敛到一个急剧的最小值。

该代码也可在此处获得。

过大的批大小会引入数值不稳定性，而逐层自适应学习率将有助于稳定训练。