为什么逻辑回归假设被视为概率函数?
我知道我们用它来预测 0 或 1,但是,为什么输出 0 和 1 之间数字的函数(假设)可能被认为是概率函数?
这是启发式的吗?
为什么逻辑回归假设被视为概率函数?
我知道我们用它来预测 0 或 1,但是,为什么输出 0 和 1 之间数字的函数(假设)可能被认为是概率函数?
这是启发式的吗?
不,这不仅仅是一种启发式方法。它是有意作为响应的条件分布的模型。
Logistic 回归是广义线性模型(GLM) 的一个特例,在这种情况下,对于响应变量是有条件的伯努利(或更一般地,二项式)的过程。
GLM 包括响应条件均值的模型规范。对于伯努利变量,其条件均值是参数,它明确表示响应为的概率。它是根据一个或多个预测变量建模的。这是单个预测变量的均值模型:
因此,在给定预测变量的值的情况下,它(有意)是响应为概率的模型。
链接函数(及其逆)的形式也并非偶然—— logit 链接(这就是逻辑回归的原因)是二项式响应的自然(或规范)链接函数。链接函数的其他选择也是可能的(它们也将成为 1 概率的模型)。二项式响应的其他常见选择是概率和互补对数,但逻辑是迄今为止最常见的。