论坛撰稿人 David Waterworth 写道:“我们训练 ”,这里是人工神经元的偏差。
然而,这篇维基百科文章
https://en.wikipedia.org/wiki/Artificial_neural_network
(在“优化”部分,在“算法”副标题下)
似乎表明偏差在训练期间没有调整:
(我只引用了相关的句子。)
“设个连接、个输入和输出的神经网络。
... 表示中的向量。这些被称为权重。
然后算法的输出是。”
换句话说,训练/优化算法从开始,然后产生,然后产生,等等。
请注意是维向量,是连接总数。
那么,这篇维基百科文章是否说只有连接的权重会调整,但偏差(神经元的权重)不会调整?
如果偏差也调整,则训练/优化算法的输出向量将具有更多维度 - 维度数必须为:
[连接总数 ] 加上 [有偏差的神经元总数]。
自从撰写这篇 Wikipedia 文章以来,训练/优化算法可能已经进化了?