是什么让多层神经网络能够执行非线性运算?

人工智能 神经网络 机器学习 数学 激活函数 函数逼近
2021-10-24 01:43:57

据我所知,单层神经网络只能进行线性运算,而多层神经网络可以。

此外,我最近了解到许多神经网络中使用的有限矩阵/张量只能表示线性运算。

然而,多层神经网络可以表示非线性(甚至比单纯的非线性复杂得多)操作。

是什么让它发生?激活层?

1个回答

输入和输出之间的非线性关系可以通过对每个神经元的值使用非线性激活函数来实现,然后再将其传递给下一层的神经元。