您首先分别训练堆栈中的每个 RBM，然后组合成一个可以进一步调整的新模型。

假设你有 3 个 RBM，你用你的数据（例如一堆图像）训练 RBM1。RBM2 使用 RBM1 的输出进行训练。RBM3 使用 RBM2 的输出进行训练。这个想法是，每个 RBM 模型都具有代表图像的特征，并且它们在此过程中学习的权重在分类等其他判别任务中很有用。

预训练堆叠 RBM 是贪婪地逐层最小化定义的能量，即最大化可能性。G. Hinton 提出了 CD-k 算法，可以看作是 Gibbs 采样的单次迭代。

预训练是一种多阶段学习策略，在执行所需的复杂模型的训练之前先训练一个更简单的模型。

在您的情况下，使用受限玻尔兹曼机的预训练是一种贪婪的逐层无监督预训练方法。您可以在固定之前的预训练层的情况下逐层训练 RBM。

预训练有助于优化和泛化。

参考：

Ian Goodfellow 等人的深度学习。