机器算法验证 - GLM 必须是“参数中的线性” - 吾爱随笔录

机器算法验证广义线性模型线性的参数化

2022-03-13 07:53:30

关于“参数线性”的含义，我正在经历一些认知失调。例如，这里和这里。

比如我的理解是在参数上不是线性的，因为它有两个参数变量相乘在一起（即）。 $y_i = \beta_0 + \beta_1\beta_2x_1 + \exp(\beta_3)(x_2)^2 + \epsilon$ ${\beta_1, \beta_2}$

如果（比如说）被替换为，一个常数，它会是。 $\beta_1$ $\gamma_1$

感谢有人能澄清这一点。

3个回答

您的示例模型可以在参数 &中重新表达为线性： $\alpha=\beta_1\beta_2$ $\zeta=\exp\beta_3$

g (E Y) = β_{0} + α x_{1} + ζ x_{2}^{2}

$g(\operatorname{E} Y) = \beta_0 + \alpha x_1 + \zeta x_2^2$

（显然和不能单独估计；非线性模型在那里无济于事。注意必须被约束为正数。）有些模型不能如此重新表达： $\beta_1$ $\beta_2$ $\hat\zeta$

g (E Y) = β_{0} + β_{1} x_{1} + x_{2}^{β_{2}}

$g(\operatorname{E} Y) = \beta_0 + \beta_1 x_1 + x_2^{\beta_2}$

有些可能虽然起初并不明显：https ://stats.stackexchange.com/a/60504/17230 。

参数中的线性意味着您可以将预测写为

β_{0} + \sum_{j = 1}^{p} x_{i j} β_{j}

$\beta_0+\sum_{j=1}^px_{ij}\beta_j$

对于一些定义 $x_{ij}$ . 但是这些 x 不一定是数据的线性函数。例如，时间序列的多项式拟合有 $x_{ij}=t_i^j$ 在哪里 $t_i$ 是与数据点相关的时间 $i$ . 预测是时间的非线性函数，但在 beta 中是线性的。

更新

回应评论，答案是“有点”。如果 $\beta_2$ 是恒定的，那么预测变量是线性的 $\beta_0,\beta_1,\exp (\beta_3)$ . 它不是线性的 $\beta_3$ , 但转换为 $\beta_3$ . 就最小二乘估计而言，这里没有太大区别。

我认为您最好了解 GLM 的三个组成部分。特别是，您需要了解链接功能是如何定义的。

您可以参考下面幻灯片中的第 7 页。由链接函数转换后，“参数中的线性”为真。

其它你可能感兴趣的问题