一种常见的策略是采用阻尼策略，即计算$\vec{w}^{\ast} = F \left( \vec{w}^{(n)} \right)$然后设置 $\vec{w}^{(n+1)} = \alpha \vec{w}^{(\ast)} + (1-\alpha)\vec{w}^{(n)}$在哪里$\alpha\in[0,1]$. 您通常选择$\alpha$以这样一种方式，它最小化$\|[\alpha \vec{w}^{(\ast)} + (1-\alpha)\vec{w}^{(n)}] - F(\alpha \vec{w}^{(\ast)} + (1-\alpha)\vec{w}^{(n)})\|$在某种意义上。像这样的阻尼策略通常比仅仅采取一个完整的步骤$\alpha=1$更强大，这就是你目前正在做的。

看看安德森混音。它用于非线性的自洽量子化学应用。它比简单的阻尼更快、更稳健。

标题是您保留 n 先前迭代的历史并计算每个迭代的残差，然后使用解空间在解附近是线性的近似值对残差集执行线性求解。这非常有效，而且比类似的 Broyden 更新方法快得多，Eyert 证明这种方法与 Anderson 相当。

当我使用它时它略微下降，因为我的变换对即使在解附近的小增量非常敏感，即线性近似确实保持得很好。