没有偏见的图层的目的是什么?

人工智能 神经网络 张量流 隐藏层 算法偏差 致密层
2021-11-18 10:13:16

我注意到 TensorFlow 库包含layer的use_bias参数,Dense默认设置为True,但允许您禁用它。乍一看,关闭偏差似乎是不利的,因为这可能会对数据拟合和预测产生负面影响。

没有偏差的层的目的是什么?

1个回答

偏差是神经网络中的超参数之一,它可以让你改变激活函数。禁用偏差意味着将偏差设置为零。

尽管在许多情况下,偏差对成功学习有很大帮助,但在某些情况下,您可能希望在找到目标函数时为您的神经网络添加额外的约束。例如,在下面的论文中,作为最后一层的零偏差层有助于提高输出的可解释性。

https://ieeexplore.ieee.org/abstract/document/9173537