单输入单输出神经网络可能吗?

数据挖掘 神经网络 分类 感知器
2021-09-19 07:18:54

这可能是一个奇怪的问题,但我试图深入了解神经网络在理论上是如何工作的。

我正在用我的感知器做一些测试,我决定在单输入单输出数据集上测试它。我正在寻找的是 100% 的准确度,因为我正在测试的是一个具有二进制输出的简单可分离数据集。但是,准确度低于 50%(不平衡)。我意识到这是因为有一个单一的权重在训练时要么是=>0要么是<0。因此,在通过激活函数(例如 hardlim)之后,除非输入缩放到 [-1,1] 范围,否则它总是会给出相同的输出。

我的解释有意义吗?我缺少任何理论方面吗?

此外,神经网络对单输入问题是否有用?它们对我来说似乎没用,因为我们基本上是通过将一个或多个点(对于多类问题)放在一条线上来分隔输出来进行分类,这是一个非常简单的问题,不需要神经网络的复杂性。

1个回答

您的权重已饱和,这会导致不断的预测。

有几种方法可以解决这个问题:

  • 替换hardlim为标准激活函数,如 ReLU 或 sigmoid
  • 选择不同的随机初始化
  • 标准化输入