如何实现深度自动编码器?

机器算法验证 机器学习 深度学习 无监督学习 自动编码器 西阿诺
2022-03-12 10:19:53

我正在尝试使用 Theano复制本文的结果。目前的问题是,所有与 Theano 相关的教程都只针对 MNIST 分类器,在无监督图像检索中用处不大。

我有以下想法如何解决这个问题:首先,我必须训练一堆相互连接的 RBM。当 RBM 得到充分训练时,我将从这些矩阵中获取权重矩阵和偏差向量,并构建一个深度自动编码器。然后,该自动编码器将使用反向传播以传统方式进行训练。

我的思路是正确的,还是我错过了一些重要的东西?

1个回答

基本上,您想使用分层方法来训练您的深度自动编码器。您想一次训练一层,然后最终对所有层进行微调。

您可以按照这个斯坦福 UFLDL 教程进行操作。这是一个很好的深度学习教程(有堆叠的自动编码器;不是从 RBM 构建的。但它应该足以给你一些想法)。

教程:http ://ufldl.stanford.edu/wiki/index.php/UFLDL_Tutorial

您可以将此 github 用作参考: https ://github.com/johnny5550822/Ho-UFLDL-tutorial