前馈神经网络是判别模型，即它们建模$P(y|x)$.

像受限玻尔兹曼机这样的东西看起来很像神经网络，并且共享一些属性，并且是生成模型，即它们建模$P(y,x)$--- 当然，你总是可以变成一个$P(y|x)$使用贝叶斯规则，但反之则不然。

Theano等库支持 RBM。

编辑：自从写下我的回复以来，已经发明了生成对抗网络。（实际上，它们是在 2014 年发明的，但直到 2016 年才充分发挥其潜力。）在这些网络中，您将噪声输入神经网络并生成数据样本。这是通过与常规判别神经网络共同训练它来实现的。两个网络同时训练：判别器必须将每个样本分类为真实的或由另一个神经网络综合创建。生成神经网络必须骗过这个，所以它们会变得越来越好，最后，你就有了判别模型和生成模型！