在前馈神经网络中,输入通过一系列权重直接馈送到输出。
权重的用途是什么,它们在这个神经网络中有何重要意义?
在前馈神经网络中,输入通过一系列权重直接馈送到输出。
权重的用途是什么,它们在这个神经网络中有何重要意义?
您描述了一个单层前馈网络。它们可以有多个层。权重的意义在于,它们从前一层的输出进行线性变换,并将其传递给它们要去的节点。更简单地说,他们指定了激活他们来自的节点到激活他们要去的节点的重要性(以及以何种方式:消极或积极)。
在您的示例中,由于只有一层(一行输入节点和一行输出节点),因此很容易解释每个节点代表什么。然而,在多层前馈网络中,它们可以成为抽象表示,这使得解释它们变得困难,因此解释了它们的权重代表什么。
另一种思考方式是它们在前一个节点层的输出空间中描述超平面。如果前一层的每个输出代表空间中的一个点,则超平面决定空间的哪一部分应该给下一层平面的对应节点一个正值,哪一部分应该给它一个负输入。它实际上把那个空间分成了两半。如果考虑多层前馈网络的输入空间,则第一层的权重参数化超平面,但是在接下来的层中,它们可以表示输入空间中的非线性表面。