计算科学 - 非线性共轭梯度下降中的共轭 - 吾爱随笔录

在线性共轭梯度法中，我们的目标是求解线性方程组

A x = b

$Ax = b$ 其中 A 是一个对称正定矩阵，这相当于找到凸二次型的最小值：

φ (x) = \frac{1}{2} x^{T} A x - x^{T} b

$φ(x) = \frac12 x^T A x - x^T b$

在非线性 CG 方法中，我们的目标是找到 $f(x)$ ，一个一般的连续函数，其梯度 $f'$ 可以计算。

我的问题是，在线性 CG 中，我们说方向 $p_{k}$ 与矩阵共轭 $A$ 如果

p_{i}^{T} A p_{j} = 0

$p_{i}^TAp_{j} = 0$ 对所有人

i \neq j

$i\neq j$ ，在哪里

A

$A$ 是我们想要求解的系统中出现的矩阵。

然而，在非线性中，这样的矩阵是不存在的，不是吗？在那种情况下，我们如何定义搜索方向的共轭性，或者我们一直说这些方向是共轭的是什么意思？

提前致谢。