我在http://www.mathworks.com/help/stats/nlinfit.htmlCovB = inv(J'*J)*MSE的 MATLAB 文档中
看到了这一点。
但是，我找不到该关系的任何来源。我相信它，但我需要找到一个来源来引用它。我看过但我找不到。如果有人可以帮助我，那就太好了。
非线性最小二乘中协方差矩阵与雅可比矩阵的关系
机器算法验证
matlab
协方差矩阵
雅可比
2022-03-26 15:20:46
1个回答
这是基于 Gauss-Newton 和 Levenberg-Marquardt 算法使用的非线性最小二乘问题的 Hessian 标准近似值。
考虑非线性最小二乘问题：最小化。令 = r(x) 的雅可比行列式。目标的 Hessian =高阶项。Gauss-Newton 或 Levenberg-Marquardt 近似是忽略高阶项，将 Hessian 近似为。Hessian 的这种近似值在 MATLAB 的 nlinfit中的公式中使用。CovB = inv(J'*J)*MSE
如果残差 r(x) 接近于零，则解中的高阶项接近于零。如果解处的残差很大，则近似值可能非常不准确。请参阅https://www8.cs.umu.se/kurser/5DA001/HT07/lectures/lsq-handouts.pdf的前 7 张幻灯片。在https://en.wikipedia.org/wiki/Gauss%E2%80%93Newton_algorithm也有提及，但提供的细节较少。