去噪自动编码器 (DAE) 的工作原理是在输入向量中引入一些噪声，然后将其转换到隐藏层，同时尝试重建原始向量。但是，我无法理解收缩自动编码器 (CAE) 的直觉。
CAE 是否说隐藏层只会学习将一个输入与向量中的其余输入区分开来的特征？如果是这样，那么我们将如何重建原始向量？
去噪自编码器和收缩自编码器有什么区别？
机器算法验证
机器学习
深度学习
图形模型
自动编码器
2022-03-23 04:45:32
1个回答
不会。CAE 试图使编码器（即从输入到隐藏层的映射）具有局部性，即输入的微小变化会导致隐藏层的微小变化。这是一个很好的属性，因为它意味着映射不太敏感，这应该有助于它在训练数据之外进行泛化。
（还有一个额外的复杂性：CAE 特别试图沿着所有自动编码器假设存在于输入数据中的低维流形的方向强制执行局部性。
我对此的理解实际上是基于原始论文（Rifai 等人）。这个视频解释了方向性有点不同。
我觉得这部分有点难以解释。我建议首先专注于当地。）
其它你可能感兴趣的问题