在许多情况下,激活函数被标记为g(例如 Andrew Ng 的课程课程),特别是如果它没有引用任何特定的激活函数,例如 sigmoid。
g
然而,这个约定从何而来?又是出于什么原因g开始使用的?
激活层的添加创建了两个功能的组合。
“为特定上下文定义的通用函数通常由单个字母表示,最常见的是小写字母 f、g、h。”
所以归结为他使用假设表示h(x)=wX+b 的原因,它是一个函数,并且被表示为 g 的激活函数包装。g 的选择似乎纯粹是按字母顺序排列的。