keras中线性激活函数的目的是什么，激活函数的全部目的不是引入非线性吗？
激活函数
数据挖掘
机器学习
神经网络
2022-03-13 02:30:12
1个回答
多个线性函数的组合可以帮助对复杂决策区域进行建模。可以组合两个或多个线性函数以形成非线性函数的分段逼近。在非常深的网络上计算非线性激活函数可能很昂贵（因为涉及到指数项）。ReLu 激活函数是一种线性激活，几乎被每个 CNN 模型使用，并被证明可以提供更好的结果。
考虑上面的函数，它是两个 reLu 的组合。这近似于 sigmoid 函数（尝试绘制相同的函数）并且计算成本低。