假设我们有以下由带有符号函数作为激活单元的感知器组成的全连接网络，当尝试使用梯度下降训练这个网络时会出现什么问题？
用梯度下降训练这个网络时有什么问题？
数据挖掘
梯度下降
反向传播
感知器
2022-03-13 02:57:00
1个回答
当试图用梯度下降训练这个网络时，会出现什么问题？
激活函数是符号函数或符号函数 （稍作修改）。
因此，它的导数在所有点上都为 0。
因此，梯度下降将无法在更新权重方面取得进展，并且反向传播将失败。