如何决定池化层的窗口大小?

数据挖掘 深度学习 超参数 卷积
2021-10-14 18:22:31

在卷积神经网络上,使用了一个或多个池化层。据我所知,许多教程会指导您设置它2或设置3窗口大小。例如,在本教程中

池化层

在一些 ReLU 层之后,程序员可能会选择应用池化层。它也被称为下采样层。在这个类别中,还有几个层选项,其中 maxpooling 是最受欢迎的。这基本上需要一个过滤器(通常大小为 2x2)和一个相同长度的步幅。然后它将其应用于输入体积并输出过滤器卷积的每个子区域中的最大数量。

我将相关部分加粗。但为什么它通常设置为2(或在某些情况下3)?我怎么知道什么尺寸合适?我应该像蛮力一样通过反复试验来调整参数,还是有任何关于确定窗口大小的提示?

1个回答

当您对网络拓扑有更多了解时,这些超参数会更有意义,但总的来说,这就像任何其他超参数一样,您必须测试一些设置,看看哪些设置更好。在池化层的情况下,它实际上是相对可解释的。为什么我们使用池化?对我们的特征图进行下采样。这样做是为了降低我们处理后的图像的分辨率,同时也增加我们后续层的感受野。因为它是一种下采样形式,所以我们丢弃了在最大池化的情况下不是最大值的所有信息,或者我们丢弃了关于均值池化的传播信息。通过增加池化过滤器的大小,我们会进一步降低分辨率并丢失更多信息,