我觉得这是一个已经发布了很多变体的问题,但它并不能完全回答我的问题。我了解最大池的概念以及反向传播的概念。我无法理解的是,为什么说最大池不影响反向传播过程?是因为最大池“没有任何参数”吗?这也是这个声明 - 最大池没有参数 - 对吗?为什么或者为什么不?
最大池没有参数,因此不会影响反向传播?
数据挖掘
机器学习
反向传播
范围
2022-03-01 20:58:20
1个回答
池化层没有影响反向传播的参数。反向传播是一种算法,通过使用链式法则并将误差从最后一层传播到早期层,在神经网络中有效地实现梯度下降。影响反向传播的参数通常称为可训练变量(在 Tensorflow 中),它们是卷积滤波器的权重和偏差。添加池化层不会改变它们的数量。
池化层是一种执行下采样的方法,使用它们的主要原因如下:
- 减少网络的计算负载:更小的输出意味着更少的 FLOPS
- 在训练期间节省内存:减少 GPU 中的内存分配
- 增加连续层中神经元的感受野。您可以查看有关此主题的链接:https ://medium.com/@santi.pdp/receptive-fields-in-convolutional-neural-networks-6368a699d838
- 为特征图添加平移不变性:在池化时,一个特征的小平移将导致该特征位于下一个池化层中的相同位置
事实是,池化层可能会对网络的学习能力产生很大影响
其它你可能感兴趣的问题