我刚刚偶然发现了神经元覆盖的概念,它是神经网络中激活的神经元与总神经元的比率。但是,神经元被“激活”意味着什么?我知道什么是激活函数,但是在 ReLU 或 sigmoid 函数的情况下,被激活意味着什么?
激活神经网络中的神经元意味着什么?
人工智能
神经网络
机器学习
激活函数
人工神经元
神经元覆盖
2021-11-09 21:59:11
2个回答
当一个神经元的输出超过一个阈值(通常为 0)时,就说它被激活了。
举些例子 :
什么时候
sigmoid 或其他激活函数也是如此。
术语“激活”主要用于讨论激活函数,当激活函数的输入大于某个阈值时仅输出一个值(0 除外)。
特别是在讨论 ReLU 时,可能会使用术语“激活”。ReLU 在输出大于 0 时会被“激活”,输入大于 0 时也是如此。
其他激活函数,如 sigmoid,总是返回一个大于 0 的值,并且没有任何特殊的阈值。因此,术语“激活”在这里意义不大。
尽管我们对它们知之甚少,但大脑中的神经元似乎也具有类似于具有某种“激活阈值”的激活功能。
其它你可能感兴趣的问题