我正在学习多层感知器，我有一个关于隐藏层神经元的快速理论问题。
我知道我们可以通过允许具有两个线性分隔符的表示来使用两个隐藏层来解决非线性可分问题。但是，我们可以仅使用一个隐藏层来解决非线性可分问题。
这看起来很好，但是一个隐藏层添加了什么样的表示？网络的输出如何受到影响？
我绘制了一个带有一个隐藏层神经元的多层感知器图。我使用相同的布局来解决非线性可分问题。单个隐藏层节点位于红色方块内。原谅我可怜的 MS-Paint 技能。
单个隐藏层如何影响输出？
人工智能
神经网络
机器学习
隐藏层
多层感知器
2021-11-10 13:48:26
1个回答
当我们添加一个具有非线性激活函数的单层时，在应用激活函数之后，会找到一个新的基函数（对于那个神经元），它是权重和偏差的某种组合，作为一个新的查看或分析功能集的方法。
随着网络越来越深，我们不断寻找表示，它们是前一层权重和偏差组合的新基向量，即更高级别的表示。
如果它们没有错误，它们将提供更好的性能，但如果小错误在早期的基向量中蔓延，则错误会随着深度的增加而增加。
一个很好的类比是泰勒级数，其中,,，等等，是估计一维函数的基向量。
其它你可能感兴趣的问题