是否有可能确定训练神经网络的数据集?

人工智能 神经网络 机器学习 数据集 生成模型
2021-10-21 03:08:45

假设我们有一个使用数据集训练的神经网络D解决一些任务。是否有可能对这个神经网络进行“逆向工程”并对数据集有一个模糊的概念D它受过训练?

1个回答

您已经可以使用一些神经网络来做到这一点,例如GANVAE,它们是学习输入概率分布的生成模型,因此它们学习如何生成与训练图像相似的图像。

现在,如果您对是否存在黑盒方法感兴趣,即一种方法,对于每个可能的神经网络,都会告诉您训练神经网络的数据集,这似乎是一项艰巨的任务,而且绝对是一个不适定问题,但我怀疑从事对抗性机器学习的人已经尝试或将尝试做类似的事情。