非线性方程组的经典牛顿方法是$x_{k+1} =x_k-J_F(x_n)^{-1} F(x_n)$. 在实践中，不是计算雅可比矩阵的逆矩阵，而是求解系统$J_F(x_k) (x_{k+1}-x_k)=-F(x_k)$, 对于未知$x_{k+1}-x_k$.

在我的笔记（关于 ODE）中，我发现：

牛顿法需要在每一步计算雅可比矩阵及其“反演”$k$. 这可能太贵了（$\mathcal{O}(N^3)$）， 在哪里$N$是矩阵的维数。

我的疑问是如何获得这种计算复杂性。它是在谈论使用 LU 分解来反转矩阵的方法吗，我知道这是$\mathcal{O}(N^3)$?

然后它说：

降低计算复杂度的标准方法是始终使用相同的雅可比矩阵，计算其 LU 分解并使用它来求解线性系统。这是$\mathcal{O}(N^2)$

这里我还有一个问题：LU分解的计算复杂度$J_F$应该$\mathcal{O}(\frac{N^3}{3})$. 而三角系统分辨率的计算复杂度为$\mathcal{O}(\frac{N^2}{2})$. 由于有两个三角形系统，它等于$2 \mathcal{O}(\frac{N^2}{2})$.

不应该，完全，$\mathcal{O}(\frac{N^3}{3})$代替$\mathcal{O}(N^2)$?