我对这个问题的回答如下：

如您提供的 Wikipedia 链接上所定义的，生成模型旨在估计您的数据和一些潜在（随机）变量的联合分布，通常是。特别是，在 VAE 的情况下，您的数据（通常）是图像、文本、音频或您正在建模的任何内容，而潜在变量（通常）是多元正态（你可以放松一下）。在 AE 中，你不能做这个类比，你有你的数据，你把它映射到一个比你的原始图像更小的空间，然后你尝试将这个低维数据解码成你的原始数据。这意味着，没有关于如何生成数据的分布假设$p(\textbf{x},\textbf{z})$$\textbf{x}$$\textbf{z}$. 在概率推理术语中，对数据生成过程没有任何假设。

当我开始研究 VAE 时，我认为它们“只是”概率 AE，但现在我真的不喜欢这种看待它们的方式。我围绕 VAE 和神经网络的使用建立的直觉如下：您在数据生成过程中构建模型，特别是，您认为每次观察都有一个潜在变量，每次观察估计每个潜在变量可能非常昂贵在经典的变分推理中，因此您使用函数逼近器（这是神经网络出现的地方）并使用观察本身来逼近每个潜在变量的分布。因此，在概率推理中使用神经网络是因为它具有逼近能力。与认为 VAE 只是神经网络的概率扩展相反。

同样，其他模型也是围绕着我试图解释的直觉开发的。例如深度卡尔曼滤波器、结构 VAE等。

编辑：请注意，我对生成模型的定义有点简化。有一系列模型称为“自回归”生成模型，它们不包含潜在变量。在这种情况下，您会将变量的联合分布视为以其余（先前）变量为条件的单个分布的分解。数学上：

$$\begin{align} p(\textbf{x}) = p(x_{0}, x_{1},...,x_{N}) \\ &= \prod_{i=0}^{N}p(x_{i}|\textbf{x}_{i<}) \\ &= p(x_{N}|x_{N-1}, x_{N-2},...x_{0})p(x_{N-1}|x_{N-2}, x_{N-3},...x_{0})...p(x_{o}) \end{align}$$