对于 DNN 的实际使用,白噪声有多大问题?

人工智能 神经网络 深度神经网络 图像识别 卷积神经网络 信号处理
2021-10-27 23:25:35

我读到深度神经网络可以相对容易地被愚弄(链接),从而对完全(或至少大部分)超出置信度主题的合成/人工图像的识别给予高度信心。

就个人而言,我认为 DNN 对那些合成/人工图像给予高度置信度并没有什么大问题,但我认为对白噪声(链接)给予高度置信度可能是一个问题,因为这是相机可能看到的真正自然现象在现实世界。

对于 DNN 的实际使用,白噪声有多大问题?能否以某种方式防止从普通噪声中检测到这种误报?

1个回答

愚弄 DNN 的白噪声并不是真正的白噪声。它已以与更改合成错误分类图片相同的方式进行更改。您必须以完全这样的方式更改许多输入像素,这些微小的变化是不可察觉的,但通过网络传播会导致错误分类。这不会偶然发生。