我还没有研究过这个，但我想我可以给你一个使用 VAE 的理论视角。回归是一项监督学习任务，基本上是从输入到输出的映射，其中神经网络将逼近函数$f(input) = output$.

另一方面，VAE 有助于发现潜在变量如何影响输出。例如，如果您的任务是训练一个人的面部情绪，并且您的潜在空间包含 2 个变量$z_1$和$z_2$那么你可能会发现不同的$z_1$改变脸上微笑的程度，同时改变$z_2$可能会给眼睛下垂的量。我建议您在 ~44:00 查看来自斯坦福的视频，看看这是否真的发生或查看此博客。因此，如果您的输出包含更多特征，这些特征会根据潜在变量的变化而变化，那么 VAE 可能会很有用，但是单个标量输出只能告诉您改变潜在变量的影响率。

但是，如果您的工作只是为了更好的回归，那么自动编码器是更好的选择，因为它具有固有的去噪能力，并且足够的训练可能有助于对输入进行去噪，因此如果根据以下分类进行分类，则可以提供更好的结果潜变量。

Kingma 等人提出了一种我认为与您的想法类似的方法。对于本文中的半监督学习。该论文对该方法的描述非常差，因此我建议您查看此博客。他们使用了一个额外的分类器来重建原始输入，并在标签存在时训练分类器。