判别器与生成器同时训练的主要原因是（至少在理论上）为生成器提供平滑和渐进的学习信号。

如果我们只在输入数据上训练判别器，那么，假设我们的训练算法收敛良好，它应该很快收敛到一个固定的模型。然后生成器可以学会欺骗这个固定的模型，但它可能仍然很容易为人类发现生成器的假货。例如，鉴别器可能已经知道，巧合的是，在您提供的样本中，所有卡车图像的左上角都有一个全白像素。如果它学会了这种模式，生成器就可以通过使用白色像素生成噪声来欺骗它。一旦生成器学会了这种模式，所有的学习都会停止。

相反，假设判别器在真实示例和生成示例的混合上反复重新训练。鉴别器将被迫学习比“左上角的白色像素”更复杂的模式，这将提高其质量，超越样本数据中的原始模式。

反之亦然。如果生成器仅在训练数据上进行训练，它也可能只挑选出最明显的模式。这些模式可能会在网络的权重空间中创建许多局部最小值。然而，如果来自鉴别器的误差信号被馈送到生成器，那么生成器必须适应：实际上，我们是在告诉它“让左上角的像素变白不足以欺骗观察者。找到更复杂的模式”。

鉴别器的工作是区分真实图像和生成的图像。如果它从未真正看到生成的图像，就不可能做到这一点，就像你想要一个网络来区分猫和狗一样，如果你只向它展示狗的照片，它就无法工作。
如果你只在真实图像上训练一个生成器，它会看到的所有标签都是 1。你最终得到的是一个学习如何生成 1 而不管其输入如何的网络，这很容易学习而无需找到任何数据中的基本模式。一旦您添加生成的图像和 0 个标签，它就会被迫学习一些有趣的东西。

事实证明，这实际上是有实际原因的。

实际上，在 GAN 中，生成器往往会收敛于少数“好”的输出，如果你不这样做，就会愚弄鉴别器。在最佳情况下，生成器实际上会发出一个固定的输出，而不管输入向量是否会欺骗判别器。

也就是说，生成器的损失函数不仅仅是为了“愚弄鉴别器”，它实际上是：

• 愚弄鉴别器。
• 生成新颖的输出。

您可以编写生成器的损失函数来明确尝试说任何训练批次中的输出应该是不同的，但是通过将输出传递给鉴别器，您可以创建生成器先前预测的历史，有效地应用生成器时的损失度量往往会一遍又一遍地产生相同的输出。

...但这不是魔术，也不是关于判别器学习“好特征”的特征；这是关于应用于生成器的损失。

这被称为“模式崩溃”，引用 Google ML guide on GAN Troubleshooting：

如果生成器开始一遍又一遍地产生相同的输出（或一小组输出），判别器的最佳策略是学习始终拒绝该输出。但是如果下一代鉴别器陷入局部最小值并且没有找到最佳策略，那么下一次生成器迭代就很容易为当前鉴别器找到最合理的输出。

生成器的每次迭代都会针对特定的判别器进行过度优化，而判别器永远不会设法摆脱陷阱。结果，生成器通过一小组输出类型旋转。这种形式的 GAN 失败称为模式崩溃。

另请参阅“Unrolled GANs”和“Wasserstein loss”的附加阅读。

见：https ://developers.google.com/machine-learning/gan/problems