请建议一些我可以用来测试我的神经网络实现的简单函数

数据挖掘 机器学习 神经网络 初学者 matlab 八度
2022-02-25 15:14:51

我是初学者,我已经在 Octave 中开发了代码来训练神经网络(作为 Andrew Ng 课程的一部分)。

现在我想在 Excel 中为简单的数学函数生成一些数据集,并尝试训练我的神经网络实现。

我试过 y = x^2 和 y = sin(x),但我的训练准确率只有 67% 左右。

我改变了隐藏层单元的数量,改变了 lambda,但仍然没有得到好的结果。我哪里错了?

1个回答

如果没有代码,您可能会犯很多错误来直接回答您的问题。

不过,我建议两点:

  1. 梯度检查(例如这个解释,但还有更多——当然也在课程中)
  2. 只有 sigmoid 激活的 2:2:1 网络的 XOR 问题。绘制误差面。将决策面与此交互式演示的决策面进行比较。

它应该类似于: 在此处输入图像描述

但是,请记住,问题可能不在于您的实现,而在于网络架构/超参数,例如您正在训练的 epoch 数或训练数据。

另外,非常重要:我怀疑你会得到好的结果y=x2, 除非x仅限于[1,1]或类似简单的东西。请牢记输出层的域。