我对学习神经网络的逆很感兴趣,我想了解神经网络的可逆性,例如关于可逆神经网络的可逆性中的描述。
在这个领域工作的研究人员,你能帮我理解这两个问题吗?
- 所有的神经网络都是可逆的吗?
- 究竟什么使神经网络具有可逆性?
我对学习神经网络的逆很感兴趣,我想了解神经网络的可逆性,例如关于可逆神经网络的可逆性中的描述。
在这个领域工作的研究人员,你能帮我理解这两个问题吗?
这里可逆的含义是数学函数可逆性的标准定义. 可逆只是意味着“函数具有逆映射". 等价于函数是双射的,这意味着以下两个条件成立:
是单射的:对于任何两个不同的,.
是满射的:对于任何, 存在一个这样.
如果对此不熟悉,您应该能够使用这些术语在 Google 上找到一些有用的参考资料。
大多数明显的神经网络架构不可能是可逆的。例如,考虑一个分类器,它采用图像或其他一些高维输入,并输出分类标签。如果只有一个可能的输入1对应于每个标签,则该网络只能是可逆的,这不是网络的目标。
1我的意思是字面上的意思:如果一个像素稍有不同,这将是网络的不同输入,并且必须具有不同的输出。