神经网络是可逆的吗?

人工智能 神经网络
2021-10-29 21:34:34

我对学习神经网络的逆很感兴趣,我想了解神经网络的可逆性,例如关于可逆神经网络的可逆性中的描述

在这个领域工作的研究人员,你能帮我理解这两个问题吗?

  1. 所有的神经网络都是可逆的吗?
  2. 究竟什么使神经网络具有可逆性?
1个回答

这里可逆的含义是数学函数可逆性的标准定义f:XY. 可逆只是意味着“函数具有逆映射f1:YX". 等价于函数f双射的,这意味着以下两个条件成立:

  1. f单射的:对于任何两个不同的x1,x2X,f(x1)f(x2).

  2. f满射的:对于任何yY, 存在一个xX这样f(x)=y.

如果对此不熟悉,您应该能够使用这些术语在 Google 上找到一些有用的参考资料。

大多数明显的神经网络架构不可能是可逆的。例如,考虑一个分类器,它采用图像或其他一些高维输入,并输出分类标签。如果只有一个可能的输入1对应于每个标签,则该网络只能是可逆的,这不是网络的目标。


1我的意思是字面上的意思:如果一个像素稍有不同,这将是网络的不同输入,并且必须具有不同的输出。