规范链接函数有哪些有用的属性?

机器算法验证 回归 数理统计 广义线性模型 直觉 链接功能
2022-03-02 04:44:28

所以在这里我正在研究广义线性模型。我知道这个问题非常幼稚和简单,但我不完全知道为什么链接规范函数如此有用。有人可以给我一个关于这个问题的直觉吗?

2个回答

规范链接函数描述 GLM 中的均值-方差关系。例如,二项式随机变量具有链接函数μ=exp(ν)/(1exp(ν))在哪里ν是一个线性预测器XTβ. 注意νμ=μ(1μ)这是伯努利随机变量的适当均值-方差关系。泊松随机变量也是如此,其中反向链接函数为μ=exp(ν)νμ=μ在泊松随机变量中,方差是均值。

广义线性模型求解以下形式的估计方程:

U(β)=DV1(Yg(XTβ))

在哪里D=βg(XTβ)V=var(Y). 因此,当链接是规范的时,D=V而估计函数是得分函数,即对数似然的导数:

S(β)=XT(Yg(XTβ))

正如 Wedderburn 在 1976 年关于拟似然性的论文中所指出的,规范链接的优点是预期和观察到的信息是相同的,并且迭代重新加权的最小二乘法等效于 Newton-Raphson,因此这简化了估计程序和方差估计。

我知道这个问题非常幼稚和简单,但我不知道为什么链接规范函数如此有用

真的那么好用吗?规范的链接函数主要是数学属性。它在一定程度上简化了数学,但在建模中,无论如何您都应该使用具有科学意义的链接函数。

那么规范链接函数有哪些额外的属性呢?

  1. 它导致存在足够的统计数据。这可能意味着更有效的估计,但现代软件(例如glm在 R 中)似乎并没有将规范链接与其他链接区别对待。

  2. 它简化了一些公式,因此简化了理论发展。许多不错的数学属性,请参阅GLM 的“链接函数”和“规范链接函数”之间的区别是什么

所以优势似乎主要是数学和算法,而不是真正的统计。

更多细节:让Y1,,Yn从指数色散族模型中独立观察

fY(y;θ,ϕ)=exp{(yθb(θ))/a(ϕ)+c(y,ϕ)}
满怀期待EYi=μi和线性预测器ηi=xiTβ带有协变量向量xi. 链接函数是规范的,如果ηi=θi. 在这种情况下,似然函数可以写成
L(β;ϕ)=exp{iyixiTβb(xiTβ)a(ϕ)+ic(yi,ϕ)}
通过分解定理,我们可以得出结论ixiyi足以β.

无需赘述,将简化IRLS所需的方程。同样,这个谷歌搜索似乎主要是找到在简化的上下文中提到的规范链接,而不是更多的统计原因。