正态分布并不是 VAE 中用于潜在变量的唯一分布。也有使用 von Mises-Fisher 分布的作品（Hypershperical VAEs [1]），还有使用高斯混合的 VAE，这对于无监督 [2] 和半监督 [3] 任务很有用。

正态分布有许多很好的特性，例如对变分损失中 KL 散度的分析评估，而且我们可以使用重新参数化技巧来进行有效的梯度计算（然而，原始的 VAE 论文 [4] 命名了许多其他适用的分布）。此外，VAE 的明显优势之一是它们允许通过在潜在空间中采样来生成新样本——如果它遵循高斯分布，这很容易。最后，正如@shimao 所说，潜变量遵循什么分布并不重要，因为使用非线性解码器可以模拟任意复杂的观察分布。这很方便。

至于第二个问题，我同意@shimao 的回答。

[1]：Davidson, TR, Falorsi, L., De Cao, N., Kipf, T. 和 Tomczak, JM, 2018。超球面变分自动编码器。arXiv 预印本 arXiv:1804.00891。

[2]：Dilokthanakul, N., Mediano, PA, Garnelo, M., Lee, MC, Salimbeni, H., Arulkumaran, K. 和 Shanahan, M., 2016。使用高斯混合变分自动编码器进行深度无监督聚类。arXiv 预印本 arXiv:1611.02648。

[3]：Kingma, DP, Mohamed, S., Rezende, DJ 和 Welling, M., 2014。使用深度生成模型的半监督学习。在神经信息处理系统的进展中（第 3581-3589 页）。

[4]：Kingma, DP 和 Welling, M., 2013。自动编码变分贝叶斯。arXiv 预印本 arXiv:1312.6114。

我们使用正态分布是因为它很容易重新参数化。此外，足够强大的解码器可以将正态分布映射到任何其他分布，因此从理论角度来看，确切的选择并不重要。

至于你的第二个问题，我会质疑你的前提——我很确定权重不是正态分布的——我记得看到 resnet 权重遵循更拉普拉斯分布。无论如何，这与 VAE 中的先验选择完全无关。