同方差性是否仅适用于线性回归模型?

数据挖掘 统计数据 线性回归
2022-03-03 14:10:09

在统计学中,如果所有随机变量都具有相同的有限方差,则随机变量序列是同方差的。这也称为方差同质性(维基百科)。

这个假设仅适用于线性回归模型吗?

如果没有,是否有任何相关方法可用于检查非线性模型?

2个回答

在计算估计系数的标准误差的情况下,异方差是相关的。例如,对于具有单个自变量的回归模型,这将是斜率系数:

SE(β1^)=σ(1i(xix¯)2)

与(另见此处

σ^2=1n2iϵ^i2.

OLS 假设之一是零条件均值假设,它指出E[u|X]=0,因此误差平均为 0。

另一个假设是同方差,这意味着残差中没有(自)相关E[uu|X]=σI. 所以协方差矩阵(有时也称为方差-协方差矩阵)是:

σI=σ[100010001]=Ω.

重要的是矩阵中的所有元素(从左上角到右下角的对角线元素除外)都为零,这意味着“残差之间没有相关性”。还有一个常数方差等于σ.

如果ΩσI,你面临异方差,你需要“建模”Ω,例如通过“可行的广义最小二乘法”(FGLS)来获得对标准误差的正确估计(参见 Davidson/MacKinnon:“计量经济学理论和方法”,第 7.4 章)。

异方差不影响模型的估计系数 (β)。它确实会影响估计系数的标准误差,进而影响置信区间和 p 值。

您可以使用“稳健标准错误”来减轻异方差性,并且可以测试异方差性,例如使用White 测试

使用 NN 或随机森林,您不会以上述方式估计估计系数的标准误差。所以异方差在这里不是问题。

它也适用于其他方法,即不仅仅是线性回归。例如,ANOVA 和 T 检验也取决于方差的同质性。

与单向方差分析兼容的一种检查方差同质性的方法是Barlett 检验