为什么那些开发 AI Deepfake 检测器的人不同时使用两个检测器,以便在其中一个或另一个中捕获 deepfake?

人工智能 机器学习 生成对抗网络 深假货 视频分类
2021-11-15 11:46:58

如果 Deepfake 被训练来欺骗其中一个检测器,而另一个检测器会捕捉到它,反之亦然,为什么那些开发 AI Deepfake 检测器的人不同时使用两个不同训练的检测器呢?

需要明确的是,这确实是一个问题,即是否可以制作深度伪造来同时欺骗多个高精度检测器。如果是这样,那么在他们从明显的噪音中被人类察觉之前,他们能愚弄多少人?

我听说过他们在他们的deepfake视频中注入了某种噪音的论文,这使他们能够欺骗给定的检测器https://arxiv.org/abs/2009.09213,https://delaat.net/rp/2019-2020 /p74/report.pdf),所以我认为如果他们简单地使用两个高精度检测器,那么用于欺骗一个检测器的任何噪声模式都会干扰用于欺骗另一个检测器的噪声模式。

1个回答

因为有可能一次欺骗许多不同的模型。有关使用对抗性扰动的示例,请参见本文中的表 2:https ://arxiv.org/pdf/1610.08401.pdf

话虽如此,没有理由认为一次使用两个检测器不会增加检测深度伪造的机会。它只是不能完全解决问题。