我不能高度推荐这本关于神经网络的在线书籍。

关于神经网络的棘手部分是你提到的东西——学习率使用什么值，网络使用什么拓扑等等——我们称这些东西为超参数，以区别于优化过程估计的参数.

上述书中的这一大节正是涵盖了这一点。我不知道你是否会找到你想要的。原因是没有灵丹妙药。

神经网络和深度神经网络的术语应该有区别。我找到了这个链接：https ://www.quora.com/How-does-deep-learning-work-and-how-is-it-different-from-normal-neural-networks-applied-with-SVM 。

不幸的是，没有一般规则，可能永远不会说您应该“先验”使用某种类型的网络。这取决于您要解决的任务，但您已经知道这一点。

我想您想知道附加隐藏层的含义是什么，如何确定其中应该有多少以及它们应该有多大。此外，附加参数如何影响此网络以及当某些事情无法正常工作时如何考虑您的模型。

再次，这取决于。有很多类型的网络可以解决其他问题。例如，LSTM 在处理一系列数据时非常有用。如果你想调整你的 LSTM 以使其正常工作，你应该深入了解它并弄清楚它是如何工作的。

我强烈推荐这个用于神经网络的游乐场站点：http: //playground.tensorflow.org

我还建议https://www.tensorflow.org/versions/r0.9/how_tos/graph_viz/index.html检查您的代码架构。此外，尝试探索 TensorFlow 文档。

最后，我建议你阅读。阅读更多。( http://karpathy.github.io/ )