机器算法验证 - 正态分布误差和中心极限定理 - 吾爱随笔录

机器算法验证自习线性模型计量经济学正态假设中心极限定理

2022-03-24 09:12:43

在 Wooldridge 的 Introductory Econometrics 中有一句话：

证明错误的正态分布的论据通常是这样的：因为是影响的许多不同的未观察到的因素的总和，我们可以调用中心极限定理来得出结论具有近似的正态分布。 $u$ $y$ $u$

此引用与线性模型假设之一有关，即：

$u \sim N(μ, σ^2)$

其中 $u$ 是总体模型中的误差项。

现在，据我所知，中心极限定理指出

$Z_i=(\overline{Y_i}-μ)/(σ/√n)$

（其中 $\overline{Y_i}$ 是从任何群体中抽取的随机样本的平均值，均值为 $μ$ ，方差为 $σ^2$ ）

接近标准正态变量的 $n \rightarrow \infty$ 。

问题：

帮助我理解 $Z_i$ 的渐近正态性如何暗示 $u \sim N(μ, σ^2)$

1个回答

这可以通过用 iid 随机变量的总和来表达 CLT 的结果来更好地理解。我们有

\sqrt{n} \frac{\bar{X} - μ}{σ} \sim N (0, 1) asymptotically

$\sqrt{n} \frac{ \bar{X} -\mu}{\sigma} \sim N(0, 1) \quad \text{asymptotically}$

将商乘以 $\frac{\sigma}{\sqrt{n}}$ 的事实得到 $Var(cX) = c^2 Var(X)$

\bar{X} - μ \sim N (0, \frac{σ^{2}}{n})

$\bar{X}-\mu \sim N\left(0, \frac{\sigma^2}{n} \right)$

现在将添加到 LHS 并使用的事实来获得 $\mu$ $\mathbb{E} \left[a X+\mu\right] = a \mathbb{E}[X] + \mu$

\bar{X} = \frac{1}{n} \sum_{i = 1}^{n} X_{i} \sim N (μ, \frac{σ^{2}}{n})

$\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i \sim N\left(\mu, \frac{\sigma^2}{n} \right)$

最后，乘以并使用上述两个结果可以看到 $n$

\sum_{i = 1}^{n} X_{i} \sim N (n μ, n σ^{2})

$\sum_{i=1}^n X_i \sim N \left(n \mu, n\sigma^2 \right)$

这与伍尔德里奇的声明有什么关系？好吧，如果误差是许多 iid 随机变量的总和，那么它将大致呈正态分布，如刚才所见。但是这里有一个问题，即未观察到的因素不一定是同分布的，它们甚至可能不是独立的！

尽管如此，在一些额外的规律性条件下，CLT 已成功扩展到独立的非同分布随机变量，甚至是轻度依赖的情况。这些本质上是保证总和中没有任何一项对渐近分布产生不成比例影响的条件，另请参见CLT 上的维基百科页面。你当然不需要知道这些结果；Wooldridge 的目的仅仅是提供直觉。

希望这可以帮助。

其它你可能感兴趣的问题