为什么正交投影的投影矩阵是对称的?

机器算法验证 回归 最小二乘
2022-01-17 11:40:58

我对此很陌生,所以如果这个问题很幼稚,我希望你能原谅我。(背景:我正在从戴维森和麦金农的《计量经济学理论和方法》一书中学习计量经济学,他们似乎没有解释这一点;我还看过Luenberger 的优化书,该书在更高级的水平上处理了预测,但是没有运气)。

假设我有一个正交投影Pwith 是关联的投影矩阵P. 我有兴趣将每个向量投影到Rn进入某个子空间ARn.

问题:为什么会这样P=PT, 那是,P是对称的吗?对于这个结果,我可以看什么教科书?

2个回答

这是正交投影上线性代数的基本结果。一个比较简单的方法如下。如果u1,,um是跨越一个的正交向量m维子空间A, 和U是个n×p矩阵与ui的作为列,然后

P=UUT.
这直接源于以下事实:xA可以根据标准正交基计算A作为
i=1muiuiTx.
从上面的公式可以直接得出P2=P然后PT=P.

也可以给出不同的论点。如果P是正交投影的投影矩阵,则根据定义,对于所有x,yRn

PxyPy.
最后,
0=(Px)T(yPy)=xTPT(IP)y=xT(PTPTP)y
对全部x,yRn. 这表明PT=PTP, 从何而来
P=(PT)T=(PTP)T=PTP=PT.

几何直觉的尝试……回想一下:

  1. 对称矩阵是自伴随的。
  2. 标量积仅由相互线性空间中的分量确定(并且独立于任何向量的正交分量)。

您想要“看到”的是投影是自伴随的,因此是对称的——遵循 (1)。为什么会这样?考虑向量的标量积x与投影A第二个向量的yx,Ay. 在 (2) 之后,产品将仅取决于x在投影的跨度y. 所以产品应该是一样的Ax,Ay,并且Ax,y遵循相同的论点。

自从A是自伴随的——它是对称的。