准牛顿迈出很小的一步

计算科学 牛顿法 准牛顿
2021-12-23 00:45:05

我已经实现了基于 Hessian 近似的准牛顿方法。我注意到该算法需要太多迭代才能收敛,即使它确实收敛。我无法理解的是非常小的步长(lnorm105) 对于许多这样的迭代。问题是病态的,我读到对于病态问题,准牛顿可以退化为最陡下降。这就是正在发生的事情吗?如果是这样,是否有任何关于步长如此小的直觉?我已经尝试过 Nocedal 和 Wright 在第 18.3 节中给出的阻尼修改。然而,它并没有改善步长,因为阻尼标准本身变得非常小。有没有其他原则性的方法来确保更大的步长?更大的步长是否有助于更快的收敛?

0个回答
没有发现任何回复~