机器算法验证 - GLM 是否有等效的引导程序“重新采样残差”？ - 吾爱随笔录

机器算法验证广义线性模型引导程序残差重采样

2022-04-14 04:12:59

在线性回归中，我读过通过“重新采样残差（错误）”来完成非参数引导。一般的想法是您通过残差的模拟值扰乱平均响应，并将这些扰动值作为您的重新采样。

我想知道广义线性模型（GLM）是否有任何等效的方法。

由于没有立即将误差项合并到线性预测器中，因此我看不出这是如何完成的。我能想到的最接近的等价物是在线性预测器中添加一定程度的高斯噪声——但这似乎足以用另一个名字来命名（如果完全采用这种方法的话）。

具体来说，我很好奇：

1个回答

是的。

如果您不使用误差项而是将线性回归视为条件分布的模型，则概括是最清楚的 $Y \mid X$ ：

Y ∣ X \sim N o r m a l (X β, σ)

$Y \mid X \sim Normal(X \beta, \sigma)$

当使用参数引导时，我们可以想到我们的新 $y_i$ 的作为来自这些条件分布的样本，每个对应一个 $x_i$ .

这直接推广到广义线性模型。例如，逻辑回归：

Y ∣ X \sim B e r n o u l l i (p = \frac{1}{1 + e^{X β}})

$Y \mid X \sim Bernoulli \left( p=\frac{1}{1 + e^{X \beta}} \right)$

或泊松回归：

Y ∣ X \sim P o i s s o n (λ = e^{X β})

$Y \mid X \sim Poisson(\lambda = e^{X \beta})$

在每种情况下，参数引导程序都是相同的，我们采样一个新的 $y_i$ 从估计的条件分布 $Y \mid x_i$ .

在线性回归的情况下，这在数学上等同于从误差分布中采样，然后添加到线性预测变量上，但是这种误差项分布无法推广到线性回归情况（而且，我认为，这会导致错误线性回归的术语描述略逊于条件分布描述）。

其它你可能感兴趣的问题