机器算法验证 - 高斯-马尔可夫定理：BLUE 和 OLS - 吾爱随笔录

我正在阅读wikipedia上的 Guass-Markov 定理，我希望有人可以帮助我找出该定理的要点。

我们假设一个矩阵形式的线性模型由下式给出：

y = X β + η

$y = X\beta +\eta$ 我们正在寻找蓝色，

\hat{β}

$\widehat\beta$ .

按照这个，我会标注 $\eta = y - X\beta$ “剩余”和 $\varepsilon = \widehat\beta - \beta$ 错误”。（即与 Gauss-Markov 页面上的用法相反）。

OLS（普通最小二乘）估计量可以导出为 $||\text{residual}||_2^2 = ||\eta||_2^2$ .

现在，让 $\mathbb{E}$ 表示期望算子。据我了解，高斯-马尔可夫定理告诉我们的是，如果 $\mathbb{E}(\eta) = 0$ 和 $\text{Var}(\eta) = \sigma^2 I$ ，然后是 argmin，在所有线性、无偏估计量上， $\mathbb{E}(||\text{error}||_2^2) = \mathbb{E} (||\varepsilon||_2^2)$ 由与 OLS 估计器相同的表达式给出。

{argmin}_{\hat{β} (y)} | | η | |_{2}^{2} = (X^{'} X)^{- 1} X^{'} y = {argmin}_{linear, unbiased \hat{β} (y)} E (| | ε | |_{2}^{2})

$\text{argmin}_{\text{} \widehat\beta(y)} \, ||\eta||_2^2 \;=\; (X'X)^{-1}X'y \;=\; \text{argmin}_{\text{linear, unbiased } \widehat\beta(y)} \, \mathbb{E}(||\varepsilon||_2^2)$

我的理解正确吗？如果是这样，你会说它应该在文章中得到更突出的强调吗？