数据挖掘 - 如何解释这个 CNN 架构的输入层和 H1 之间的连接？ - 吾爱随笔录

数据挖掘美国有线电视新闻网学习

2022-01-23 20:01:40

我目前正在阅读 LeCun 等人提出的论文。用于手写邮政编码识别。下图是 CNN 架构的可视化。但是我真的不明白 H1 层和输入层之间的连接是如何有意义的。如果有 12 个大小为 5x5 的内核，那么层 H1 不应该是 12x144 吗？还是这里也有任何下采样？

1个回答

是的，空间尺寸（高度和宽度）减少了：输入为 16x16，H1 为 8x8，H2 为 4x4。

另请参阅架构部分的第一段：在此处输入图像描述 Source

用现代术语来说，你会说他们使用 2 的步幅。这相应地减少了空间维度。

编辑（根据您的评论）

空间输出维度的公式 $O$ （方形）卷积层的大小如下：

O = \frac{I - K + 2 P}{S} + 1

$O = \frac{I - K + 2P}S + 1$ 和

I

$I$ 作为输入大小，

K

$K$ 作为内核大小，

P

$P$ 填充和

S

$S$ 步伐。现在您可能会认为在您的示例中

O = \frac{16 - 5 + 2 * 2}{2} + 1 = 8.5

$O = \frac{16 - 5 + 2*2}2 + 1 = 8.5$ （假设

P = 2

$P=2$ )

但是仔细看看当 H1 层的 5x5 内核以 2 的步幅扫描 16x16 输入图像时，它实际上是如何发挥作用的：

从浅灰色区域可以看出，所需的有效填充实际上并不是所有边都为 2。取而代之的是宽度或高度，一侧为 2，另一侧为 1，即平均 $(2+1)/2=1.5$ .

如果你把它代入方程来计算它给出的输出大小： $O = \frac{16 - 5 + 2*1.5}2 + 1 = 8$ . 因此，卷积层 H1 将具有 8x8 的空间维度。

其它你可能感兴趣的问题