受限玻尔兹曼机:如何在机器学习中使用?

机器算法验证 机器学习 神经网络 深度学习 深度信念网络 受限玻尔兹曼机
2022-02-05 15:22:24

背景:

是的,受限玻尔兹曼机 (RBM) 可用于启动神经网络的权重。它还可以以“逐层”的方式用于构建深度信念网络(即训练一个n- 顶部的第层(n1)-th 层,然后训练n+1- 顶部的第层n-th 层,冲洗并重复...)

关于如何使用 RBM,可以从 Good tutorial for Restricted Boltzmann Machines (RBM)的线程中找到详细信息,其中可以找到一些论文和教程。

我的问题是:

  • RBM 是否真的用于工业项目或学术项目
  • 如果是,它是如何使用的以及正在使用哪些项目?
  • 任何流行的库(如 tensorflow、Caffe、Theono 等)都提供 RBM 模块?

感谢分享。我想知道 RBM 在实践中是否真的有用。

2个回答

可以使用 RBM 来处理数据收集中出现的典型问题(例如可以用于训练机器学习模型)。此类问题包括不平衡的数据集(在分类问题中)或具有缺失值的数据集(某些特征的值未知)。在第一种情况下,可以使用来自少数类的数据训练 RBM,并使用它来生成该类的示例,而在第二种情况下,可以为每个类分别训练 RBM 并发现未知的特征值。

RBM 的另一个典型应用是协同过滤 ( http://dl.acm.org/citation.cfm?id=1273596 )。

就流行的图书馆而言,我认为 deeplearning4j 是一个很好的例子(http://deeplearning4j.org)。

RBM 是训练/学习深度网络的首批实用方法之一,它不止一层或两层。深度信念网络是由 Geoffrey Hinton 提出的,他被认为是深度学习的“父亲”之一,我想,尽管 Yann LeCun 是深度学习的另一个主要“父亲”,我认为,或者这就是我的看法。当然,Jurgen Schmidhuber 几年前就已经发明了一切 :-)

因此,RBM ​​之所以出名,是因为 1. 深度学习的第一种方法 2. Geoffrey Hinton。

然而,在实践中,它们肯定在学术研究中被使用和使用,因为有很多人试图找到一些独特的利基市场,他们可以成为专家,而成为 RBM 某些利基市场的全球专家是一件好事利基市场。然而,在实践中,在工业中,虽然我不会声称它们从未使用过,但它们很少出现。有很多非常标准的技术,可以快速轻松地训练,例如逻辑回归和前馈卷积神经网络。对于无监督,像 GAN 这样的东西目前非常流行。