在我最近在 Stack Exchange 上阅读的一个答案中，我读到了一种可能的方法来更清楚地了解神经网络的每个隐藏层中发生的情况。
这是摘录-
您应该根据输入观察是什么使每一层中的神经元被激活。如您所知，每个神经元都会针对特定的输入组合被激活（一旦 DNN 被训练）。通过可视化，您可以了解每一层在高-低级特征方面究竟学到了什么。
来源 -神经网络的高级特征
我想知道是否有任何论文尝试过这样做（链接真的很有帮助）。同时还有其他方法可以了解每个隐藏层中发生的情况吗？
如何理解深度学习神经网络中每一层都在学习什么？
数据挖掘
神经网络
美国有线电视新闻网
毫升
深度学习
2022-03-02 23:21:31
1个回答
我想知道是否有任何论文尝试过这样做（链接真的很有帮助）。
关于这个主题的最著名的论文是Matthew Zeiler 和 Rob Fergus 的Visualizing and Understanding Convolutional Networks。但是您可以找到更多类似的论文和在线文章。
同时还有其他方法可以了解每个隐藏层中发生的情况吗？
不幸的是，深度神经网络就像黑匣子。我们对它们的内部运作知之甚少。可视化层的激活可能是判断它们提取什么特征的最好方法。
其它你可能感兴趣的问题