残差如何同时为 iid 和总和为零?

机器算法验证 回归 最小二乘
2022-04-07 08:42:11

线性回归的公式如下:

yi=β0+β1xi+ϵi, 在哪里eiN(0,σ2)

以上如有错误请指正。

但是,从各种帖子和注释中,我还了解到线性回归(带有截距项)的残差总和为零。因此,根据定义,残差不是 iid。怎么能eiN(0,σ2)并同时归零?

我知道我在某处做了不正确的陈述,只是不确定在哪里。谢谢。

1个回答

我认为您混淆了残差和错误。残差,经常注意到ε^i或者ei

ε^i=yiy^i=yiβ^0β^1xi
而错误是
εi=yiβ0β1xi
小的(但很关键!)的区别是 beta 的帽子。这就是为什么残差经常用帽子来标注:它们是对误差的估计。残差不是独立的,因为它们总和为 0,但误差是(根据模型的假设)。