我正在阅读 Ian 和 Aron 的这本关于深度学习的书。在 DBN 的描述中，他们说 DBN 已经失宠并且很少使用。
深度信念网络通过在 MNIST 数据集上优于核化支持向量机（Hinton 等人，2006 年），证明了深度架构可以成功。今天，即使与其他无监督或生成学习算法相比，深度信念网络大多已失宠且很少使用，但它们在深度学习历史中的重要作用仍然值得认可。
我不明白为什么。
为什么很少使用深度信念网络（DBN）？
机器算法验证
机器学习
深度学习
深度信念网络
2022-03-11 03:53:28
1个回答
请记住，反向传播曾经伴随着一个大问题。消失的梯度；我认为很少使用深度信念网络的主要原因是因为与 RELU（整流线性单元）一起使用的反向传播解决了梯度消失问题，这不再是一个问题，您不需要实现 DBN。
第二个原因是，即使您可以使用类似的方法解决相同的问题，但使用深度信念网络训练大型深度网络架构变得更加复杂。使用带有 RELU 的反向传播，您可以一次性训练。
其它你可能感兴趣的问题