这个问题在这里得到了回答：

对于神经网络，学习率是否应该以某种方式与隐藏层大小成正比？他们应该相互影响吗？

简短的回答是肯定的，有关系。虽然这种关系并不是那么微不足道，但我只能告诉你，你所看到的是，随着隐藏层数量的增加，优化表面变得更加复杂，因此学习率通常越小越好。虽然在学习率低的情况下陷入局部最小值是可能的，但它比复杂曲面和高学习率要好得多。