我们可以使用两个中间没有激活层的卷积层吗?

机器算法验证 机器学习 神经网络 卷积神经网络
2022-03-26 09:32:22

最近我为超过 100,000 张图像训练了一个模型。我忘了在两个卷积层之间使用激活层,但是模型训练得更好,准确度很高(99%)。所以我想知道这是一种不好的方法还是我们可以这样做?

2个回答

由于卷积是线性算子,如果它们之间没有非线性激活层,两个连续的卷积层可以通过单个卷积层来实现。然后,训练一个对模型的表示能力没有积极影响的额外层是微不足道的。

堆叠卷积等效于卷积,但具有不同的过滤器大小。可能是实际上更大的过滤器会给你不同的结果,但是存在适当大小的卷积层,它与两个卷积层等效(如果边界条件正确)