我猜QR 分解比求解正规方程更好，而且比 SVD 更快。

有一些课堂笔记比较了这三种方法。

另外：这里已经讨论了超定线性系统的最小二乘解的 QR 分解。

如果需要，您可以使用“半正规方程”；这里的关键是$\mathbf R$QR分解中的因子$\mathbf A$与 Cholesky 三角形相同（直至输入符号的变化）$\mathbf A^\top\mathbf A$， 自从

$\mathbf A^\top\mathbf A=(\mathbf Q\mathbf R)^\top(\mathbf Q\mathbf R)=\mathbf R^\top\mathbf Q^\top\mathbf Q\mathbf R=\mathbf R^\top\mathbf R$.

如果您不能或不愿意存储正交矩阵，无论是显式存储还是将其分解为 Householder 向量，这将特别方便。

简而言之，你可以解方程$\mathbf R^\top\mathbf R\mathbf x=\mathbf A^\top\mathbf b$以获得您的最小二乘解决方案。

尽管如此，没有什么比奇异值分解所提供的诊断能力更好的了。如果你负担得起，你应该使用它，除非你提前知道你的最小二乘问题总是条件良好的。

当然，去反转$A^TA$. 该矩阵是对称且正定的，因此您也可以使用 CG 来做到这一点。或者，您可以使用 QR 等算法通过计算原始矩形矩阵的分解来解决原始问题。