它们几乎相同：

maxout 表现出色的第二个关键原因是它改善了 dropout 的 bagging style 训练阶段。请注意，第 7 节中激励使用 maxout 的论点也同样适用于整流线性单元（Salinas & Abbott, 1996; Hahnloser, 1998; Glorot et al., 2011）。在一组整流线性单元上 maxout 和 max pooling 之间的唯一区别是 maxout 在 max 中不包含 0。

资料来源：Maxout 网络。

Goodfellow 的那篇论文有点神秘。据我了解，最大输出网络让网络为特定问题找到最佳激活函数。这是通过中间层中的赢家通吃算法完成的。偶然地，这种网络在路径方面压缩了信息。这意味着信息以网络创建的术语权重和路径存储在网络中。在我看来，这与最大池化不同，即使我们在两种情况下都使用赢家通吃，我们在层中执行最大池以降低问题的维数。