深度伪造是一个日益令人担忧的问题：可信地改变视频的能力可能会对我们的社会产生巨大（负面）影响。令人担忧的是，最大的科技公司发起了一项具体的挑战：https ://deepfakedetectionchallenge.ai/ 。
然而，据我了解，大多数深度伪造生成技术都依赖于对抗模型的使用。一个模型生成一张新图像，而另一个模型尝试检测图像是否被篡改。两种模型都从与对方的对抗中“学习”。
话虽如此，如果出现了一个好的深度伪造检测模型（来自之前的挑战，或者没有），通过在对抗环境中学习它，它不会立即变得无用吗？
不一定取决于两个 GAN 的问题空间的功能。
一个真实世界的例子：击球手的反应时间和投手的最大速度是基于遗传学和物理学的实际有界值。如果投手可以投球的最大速度大于人类有效击球所需的最大反应时间，那么由于反应时间的阈值，他们将永远是更好的投手。
我们还不知道是否存在真实虚假图像生成的最大阈值，或者是否存在检测阈值。
由于两者都达到了近乎完美的精度，因此从真实图像中检测出近乎完美的生成图像所需的节点数量可能比宇宙中的原子更多，或者相反，生成近乎完美的图像所需的节点数量可能达到不可能直到我们继续制造越来越好的网络，这些网络接近生成和检测来自神经网络的真假图像的边界，我们才会知道端口药水。
编辑：让我们想象一下这个问题，对手用彩色像素线编辑图像，目标通过编辑图像隐藏线，学生负责在对手改变图像后找到线。问题可能变得无限困难，将所有像素更改为线条的颜色。这条线不可能找到对手总是赢，如果它找到这个解决方案意味着它在基于其硬件能力和学习模型的可达问题空间中。
深度伪造检测不一定会失败，因为生成模型的有效性限制在接近最佳性能时可能比鉴别器具有更陡峭的限制。我还没有看到任何关于这方面的论文，事实上我相信鉴别器在大多数情况下的工作更困难，我只是不同意此时决定检测器注定要失败。在 sink 中完美地创建真实的图像运动和声音的组合不是一个小问题，在某些场景下基本上是不可能的。