机器算法验证 - 矩阵的第一列如何与其他所有列正交 - 吾爱随笔录

矩阵的第一列如何与其他所有列正交

机器算法验证回归自习多重回归线性代数定心

2022-04-06 00:06:35

X_{n \times (r + 1)} = [\begin{matrix} 1 & (x_{11} - {\bar{x}}_{1}) & \dots & (x_{1 r} - {\bar{x}}_{r}) \\ 1 & (x_{21} - {\bar{x}}_{1}) & \dots & (x_{2 r} - {\bar{x}}_{r}) \\ ⋮ & ⋮ & ⋱ & ⋮ \\ 1 & (x_{n 1} - {\bar{x}}_{1}) & \dots & (x_{n r} - {\bar{x}}_{r}) \end{matrix}]

$\mathbf{X}_{n\times(r+1)} = \begin{bmatrix} 1 & (x_{11}-\bar x_1) &\cdots & (x_{1r}-\bar x_r) \\ 1 &(x_{21}-\bar x_1) &\cdots & (x_{2r}-\bar x_r) \\ \vdots & \vdots &\ddots &\vdots\\ 1 &(x_{n1}-\bar x_1) &\cdots & (x_{nr}-\bar x_r) \\ \end{bmatrix}$

第一列应该与所有其他列正交，但我不明白为什么这是真的。

2个回答

正交性检验是点积。一列不会更改其他列中的任何值。所以剩下的就是剩余列中每个点与列平均值的距离之和，根据定义，该列的平均值为零。

[\begin{matrix} 1 & 1 \dots & 1 \end{matrix}] [\begin{matrix} (X_{11} - {\bar{X}}_{1}) \\ (X_{12} - {\bar{X}}_{1}) \\ ⋮ \\ (X_{1 n} - {\bar{X}}_{1}) \end{matrix}] = \sum_{i = 1}^{n} (X_{1 i} - {\bar{X}}_{1}) = n ({\bar{X}}_{1} - {\bar{X}}_{1}) = 0

$\begin{bmatrix}1&1\cdots&1\end{bmatrix} \begin{bmatrix}(X_{11}−\bar{X}_1)\\(X_{12}−\bar{X}_1)\\\vdots\\(X_{1n}−\bar{X}_1)\end{bmatrix}= \sum_{i=1}^{n}(X_{1i}−\bar{X}_1) = n\,(\bar{X}_{1} -\bar{X}_{1})=0$

因为，

\sum_{i = 1}^{n} (X_{1 i}) = n {\bar{X}}_{1} .

$\sum_{i=1}^{n}(X_{1i})=n\bar{X}_{1}.$

其他列也一样。

两个向量被称为正交 iff 如果你次是第 1 列，分别是第 2 列，你只需要添加列元素。正交性来自算术平均值的性质。如果您还记得，它的第二个属性是样本与平均值的偏差之和为零。 $\mathbf{u}, \mathbf{v}$

⟨ u, v ⟩ = 0

$\langle \mathbf{u}, \mathbf{v} \rangle = 0$

r

$r$

v

$\mathbf{v}$

u

$\mathbf{u}$

2, . . ., r + 1

$2, ..., r+1$

证明令为 rv的观测样本，令为样本平均值。那么 $\mathbf{x} = (x_1, \dots, x_n)'$ $X$ $\bar{x} = n^{-1} \mathbf{x}'\boldsymbol 1$

\sum_{i = 1}^{n} (x_{i} - \bar{x}) = n \bar{x} - n \bar{x} = 0

$\sum_{i=1}^n (x_i - \bar{x}) = n \bar{x} - n \bar{x} = 0$

在你的情况下，你只有样本和相应的手段是。您可以应用相同的属性来处理添加示例下标： $\mathbf{x}_1 = (x_{11}, \dots, x_{n1})', \dots, \mathbf{x}_r = (x_{1r}, \dots, x_{nr})'$ $\bar{x}_1, \dots, \bar{x}_r$

\sum_{i = 1}^{n} (x_{i j} - {\bar{x}}_{j}) = n {\bar{x}}_{j} - n {\bar{x}}_{j} = 0 j = 1, \dots, r .

$\sum_{i=1}^n (x_{ij} - \bar{x}_j) = n \bar{x}_j - n \bar{x}_j = 0 \qquad j=1,\dots, r.$

我将更改您问题的符号以使其更清晰。希望这会有用！

其它你可能感兴趣的问题

上一篇vs (vs.)：如何在数据分析中正确使用这个词下一篇如何涂抹直方图