激活神经网​​络中的神经元意味着什么?

人工智能 神经网络 机器学习 激活函数 人工神经元 神经元覆盖
2021-11-09 21:59:11

我刚刚偶然发现了神经元覆盖的概念,它是神经网络中激活的神经元与总神经元的比率。但是,神经元被“激活”意味着什么?我知道什么是激活函数,但是在 ReLU 或 sigmoid 函数的情况下,被激活意味着什么?

2个回答

当一个神经元的输出超过一个阈值(通常为 0)时,就说它被激活了。

举些例子 :

y=Relu(a)>0
什么时候
a=wTx+b>0

sigmoid 或其他激活函数也是如此。

术语“激活”主要用于讨论激活函数,当激活函数的输入大于某个阈值时仅输出一个值(0 除外)。

特别是在讨论 ReLU 时,可能会使用术语“激活”。ReLU 在输出大于 0 时会被“激活”,输入大于 0 时也是如此。

其他激活函数,如 sigmoid,总是返回一个大于 0 的值,并且没有任何特殊的阈值。因此,术语“激活”在这里意义不大。

尽管我们对它们知之甚少,但大脑中的神经元似乎也具有类似于具有某种“激活阈值”的激活功能。