理解广义线性模型中的链接函数

机器算法验证 物流 广义线性模型 线性的 链接功能
2022-04-11 22:01:53

我仍在尝试学习(可能是术语问题)“链接功能”是什么意思。例如,在逻辑回归中,我们假设响应变量来自二项分布。

链接函数将实数从(从输出)转换为概率数但它如何“链接”到作为离散分布的二项分布logit1(,)βx[0,1]

我知道“链接”是在实数和概率数之间,但是从概率数到二项分布有一些缺失的部分。

我对吗?

2个回答

因此,当您有二进制响应数据时,每个观察结果都会有“是/否”或“1/0”的结果。但是,在进行二元响应回归时,您试图估计的不是您施加的每组自变量值的 1/0 结果,而是具有此类特征的个体将导致“是”结果的概率. 然后响应不再是离散的,而是连续的(在 (0,1) 区间内)。数据中的响应(真正 )确实是二元的,但估计的响应()是概率。yiΛ(xib)Φ(xib)

这些链接函数的基本含义是它们是我们对潜在变量模型中的误差项施加的分布。想象一下,每个人都有一种潜在的(不可观察的)意愿在结果中说“是”(或成为 1)。然后我们将这种意愿建模为,使用对个人特征的线性回归(这是多元回归中的向量):yixi

yi=xiβ+ϵi.

这就是所谓的潜变量回归。如果此人的意愿是积极的(),则个人观察到的结果将是“是”(),否则为“否”。请注意,阈值的选择并不重要,因为潜在变量模型具有截距。yi>0yi=1

在线性回归中,我们假设误差项是正态分布的。在二元响应和其他模型中,我们需要对误差项施加/假设分布。链接函数是误差项遵循的累积概率函数。例如,如果它是逻辑的(我们将在第四个等式中使用逻辑分布是对称的),

P(yi=1)=P(yi>0)=P(xiβ+ϵi>0)=P(ϵi>xiβ)=P(ϵi<xiβ)=Λ(xiβ).

如果您假设错误是正态分布的,那么您将有一个概率链接,而不是Φ()Λ()

广义线性模型是根据线性预测器定义的

η=Xβ

接下来是描述条件分布的概率分布Y和一个链接功能 g“提供了线性预测变量和分布函数的平均值之间的关系”,因为我们没有预测Y而是条件均值Y给定的预测器X, IE

E(Y|X)=g1(η)

在高斯族 GLM(线性回归)的情况下,恒等函数被用作链接函数,所以E(Y|X)=η,而在逻辑回归的情况下使用 logit 函数。(倒数)logit 函数转换η(,)(0,1),因为逻辑回归预测成功的概率,即伯努利分布的平均值。其他函数用于将线性预测变量转换为不同分布的均值,例如泊松回归的对数函数,或伽马回归的反向链接。所以链接函数不链接的值Y(例如二元,在逻辑回归的情况下)和线性预测,但分布的平均值Yη(实际上,将概率转换为0'沙1的你还需要一个判定规则)。所以外卖的信息是我们没有预测Y而是用概率模型和估计条件分布的参数来描述它Y给定X.

要了解有关链接函数和 GLM 的更多信息,您可以查看 GLM 的“链接函数”和“规范链接函数”之间的差异、广义线性模型中链接函数的目的以及logit 和 probit 模型线程之间的差异,非常好的维基百科文章GLMMcCullagh 和 Nelder广义线性模型书。