机器算法验证 - 高斯 VAE 的优化是否合适？ - 吾爱随笔录

高斯 VAE 的优化是否合适？

机器算法验证机器学习深度学习变分贝叶斯生成模型

2022-03-17 01:05:52

在变分自动编码器 (VAE) 中，给定一些数据 $x$ 和潜变量 $t$ 预先分配 $p(t) = \mathcal{N}(t \mid 0, I)$ ，编码器旨在学习一个分布 $q_{\phi}(t)$ 近似于真实的后验 $p(t \mid x)$ 解码器旨在学习分布 $p_\theta(x\mid t)$ 近似于真实的基础分布 $p^*(x\mid t)$ .

然后联合训练这些模型以最大化目标 $L(\phi, \theta)$ ，这是训练集的对数似然的下界：

L (φ, θ) = \sum_{i} E_{q_{φ}} \log \frac{p_{θ} (x_{i} ∣ t) p (t)}{q_{φ} (t)} \leq \sum_{i} \log \int p_{θ} (x_{i} ∣ t) p (t) d t

$L(\varphi, \theta) = \sum_i \mathbb{E}_{q_\varphi} \log \frac{p_\theta(x_i\mid t) p(t)}{q_\varphi(t)} \leq \sum_i \log \int p_\theta(x_i\mid t)p(t) \, dt$

根据 Kingma 和 Welling 的原始论文 ( https://arxiv.org/pdf/1312.6114.pdf ) 中的 C.2 节，当我们建模时 $p_{\theta}(x|t)$ 作为高斯族，解码器应该输出均值 $\mu(t)$ 和（对角线）协方差 $\sigma^2(t) I$ 为高斯分布。

我的问题是：这个优化问题不是不适定的（就像 GMM 中的最大似然训练一样）？如果解码器可以为训练集中的单个图像生成完美的重建（即 $\mu(t_i)=x_i$ ) 那么就可以设置相应的方差 $\sigma^2(t_i)$ 任意接近零的值，因此无论其余训练示例发生什么情况，可能性都会变为无穷大。

我知道大多数高斯 VAE 实现都有一个简化的解码器，它只输出平均值，替换术语 $\mathbb{E}_{q_\varphi} \log p_\theta (x_i\mid t)$ 通过原始图像和重建之间的平方误差（相当于将协方差设置为始终为单位矩阵）。这是因为原始公式的不适定性吗？

3个回答

我与人共同撰写了一篇关于这个确切问题的论文：

https://papers.nips.cc/paper/7642-leveraging-the-exact-likelihood-of-deep-latent-variable-models

我们表明，正如您所想的，最大似然对于高斯输出 VAE 是不适定的。事情很像 GMM。一种解决方案是将协方差网络的特征值约束为大于某个阈值。

一个有趣的说法是，对于离散数据，问题是适定的。这可能解释了为什么 VAE 通常在离散数据集（如二进制 MNIST）上进行基准测试。

我们在论文的第 2.1 节中展示了所有这些结果。

本文也进行了类似的调查：

http://www.jmlr.org/papers/volume19/17-704/17-704.pdf

他们表明（定理 5）VAE 目标是无界的。这意味着，一般来说，即使有 KL 项也不能使目标适切。

我认为 KL 散度项可以很好地定义问题。直观地，您可以将其视为“编码成本”，其中指定非常窄的后验分布是昂贵的。

考虑您有单个数据点的情况 $x = 0$ ，并且您的潜在空间是 1D 与标准 VAE 先验 $\mathcal{N}(0,1)$ . 一种可能的变分后验将有 $\mu(x) = 0$ 和 $\sigma(x) = \sigma^*$ 对于一些未知的最优值 $\sigma^*$ . 那么解码器将只是身份函数。

损失将是

\begin{aligned} E_{z \sim N (0, σ^{*})} [\log P (0 ∣ z)] - D_{K L} (Q (z ∣ X) ∥ P (z)) & = λ (σ^{*})^{2} - (\log \frac{1}{σ^{*}} + \frac{(σ^{*})^{2}}{2} - \frac{1}{2}) + c \\ = λ^{'} (σ^{*})^{2} - \log σ^{*} + c^{'} \\ 2 λ^{'} σ^{*} - \frac{1}{σ^{*}} & = 0 \\ σ^{*} & = (2 λ^{'})^{- \frac{1}{2}} \end{aligned}

$\begin{align*} E_{z \sim \mathcal{N}(0, \sigma^*)} [\log P(0\mid z)] - \mathcal{D}_{KL}(Q(z\mid X)\parallel P(z)) &= \lambda (\sigma^*)^2 - \left( \log \frac{1}{\sigma^*} + \frac{(\sigma^*)^2}{2} - \frac{1}{2} \right) +c\\ &= \lambda'(\sigma^*)^2 - \log \sigma^* + c' \\ 2\lambda' \sigma^*-\frac{1}{\sigma^*} &= 0 \\ \sigma^* &= (2\lambda')^{-\frac{1}{2}} \end{align*}$

在哪里 $\lambda$ 与精度成正比 $P(X|z)$ 和 $\lambda' = \lambda - \frac{1}{2}$ . 只要 $\lambda > \frac{1}{2}$ ，则 KL 项防止后验塌陷。

我认为原始海报是正确的，问题不是很好。当方差变为 0 时，似然项会爆炸到无穷大。KL 项无法控制正则化。因此存在方差收缩问题。 https://arxiv.org/abs/2010.09042

其它你可能感兴趣的问题

上一篇无免费午餐定理和 K-NN 一致性下一篇多元线性回归与几个单变量回归模型