“感知器”和 GLM 有什么区别?

人工智能 感知器
2021-10-28 17:24:02

在对此问题的评论中,用户 nbro 评论:

作为旁注,“感知器”和“神经网络”可能不是一回事。人们通常使用术语感知器来指代没有隐藏层的非常简单的神经网络。也许您的意思是“多层感知器”(MLP)这个术语。

据我了解,没有隐藏层的简单神经网络将只是一个线性模型,其上带有非线性。这听起来与广义线性模型 (GLM) 完全一样,非线性是 GLM 的链接函数。

(非多层)感知器和 GLM 之间是否存在显着差异?或者这只是另一种情况,两种等效方法具有不同研究人员的不同名称?

1个回答

感知器使用Heaviside step(或sign)函数作为激活函数(因此您不能随意使用任何激活函数),而 GLM 是线性回归的推广,其中链接函数可以是例如logit(导致逻辑回归)、等函数(导致线性回归)等等。符号函数在感知器中起到逻辑回归中的sigmoid的作用。

因此,GLM 模型具有概率解释(即您假设响应变量遵循某种分布),而感知器则没有,即使感知器和逻辑回归都可以用于分类。