使用稀疏输入的神经网络应遵循哪些准则

机器算法验证 神经网络 深度学习
2022-03-04 06:33:14

我的输入非常稀疏,例如输入图像中某些特征的位置。此外,每个特征都可以有多个检测(不确定这是否会影响系统的设计)。这我将呈现为一个 k 通道“二进制图像”,其中 ON 像素表示该特征的存在,反之亦然。我们可以看到这样的输入必然是非常稀疏的。

那么,在使用带有神经网络的稀疏数据,特别是代表检测/位置的数据时,有什么建议吗?

1个回答

您可以尝试使用特征嵌入来降低输入空间的维度。NLP 中的 word2vec 方法的排序,它似乎适用于您的情况,因为您的功能是二进制的(开/关)。