机器算法验证 - 证明线性估计器（测试版）是蓝色的？ - 吾爱随笔录

证明线性估计器（测试版）是蓝色的？

机器算法验证回归线性模型证明蓝色的

2022-03-16 13:17:36

在 pdf 的Statistical Inference pg 570一书中，有一个关于如何证明线性估计器是 BLUE 的推导。

我一直到 11.3.18，然后下一部分卡住了我。

在找到满足条件的 & ，我们从引理中得到 11.31.7： $d_i$ $\Sigma d_i = 0$ $\Sigma d_ix_i = 1$

\sum_{i = 1}^{n} d_{i} x_{i} = \sum_{i = 1}^{n} K (x_{i} - \bar{x}) x_{i} = K S_{x x}

$\sum_{i=1}^nd_ix_i=\sum_{i=1}^nK(x_i-\bar{x})x_i=KS_{xx}$

他们从哪里得到 $S_{xx}$ ？那不应该被定义为 $\sum_{i=1}^n(x_i-\bar{x})^2$ 不等于上面的等式。

此外，如果我的跟踪正确，那么我不确定 11.3.19 是如何制定的。

我非常接近弄清楚伙计们，我会很感激一些指导。

3个回答

如果你想证明的 OLS是 BLUE（最佳线性无偏估计量），你必须证明以下两件事：首先是无偏的，其次是是所有线性无偏估计量中最小的。 $\hat{\beta}$ $\hat{\beta}$ $Var(\hat{\beta})$

可以在此处找到 OLS 估计器无偏的证明http://economictheoryblog.com/2015/02/19/ols_estimator/

可以在这里找到是所有线性无偏估计量中最小的证明http://economictheoryblog.com/2015/02/26/markov_theorem/ $Var(\hat{\beta})$

S_{x x} = \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2} = \sum_{i = 1}^{n} (x_{i}^{2} - 2 x_{i} \bar{x} + {\bar{x}}^{2})

$S_{xx} = \sum_{i = 1}^n (x_i - \bar{x})^2 = \sum_{i = 1}^n (x_i^2 - 2x_i\bar{x} + \bar{x}^2)$

= (\sum_{i = 1}^{n} x_{i}^{2}) - n {\bar{x}}^{2} = (\sum_{i = 1}^{n} x_{i}^{2}) - \bar{x} \sum_{i = 1}^{n} x_{i} = \sum_{i = 1}^{n} x_{i}^{2} - \bar{x} x_{i} = \sum_{i = 1}^{n} (x_{i} - \bar{x}) x_{i}

$= \left(\sum_{i = 1}^n x_i^2\right) - n\bar{x}^2 = \left(\sum_{i = 1}^n x_i^2\right) - \bar{x}\sum_{i = 1}^nx_i = \sum_{i = 1}^n x_i^2 - \bar{x}x_i = \sum_{i = 1}^n (x_i - \bar{x})x_i$

It seems you need to show:

$\sum_{i=1}^n(x_i-\bar{x})x_i=\sum_{i=1}^n(x_i-\bar{x})^2$

Try this: Expand the right hand side out into two terms, one of which is the left hand side.

Then just show the other term is zero.

This then shows you the manipulation required (though in reverse order) for your derivation.

其它你可能感兴趣的问题

上一篇多个有序变量的总和仍然是有序的吗？下一篇如何从 sklearn GridSearchCV 获取 MSE 和 R2？