阅读 Nocedal 关于优化的书,我接触到了局部最小化器的概念,这是数值优化中的一个著名概念。但是,我想我很难对不同类型的局部最小化器有一个直观的理解。让我们回顾一下以下三个定义:
定义_ 的邻域使得对于所有点是 f 的局部极小化.
定义_ 如果存在 x^* 的邻域 \mathcal{N} 使得 x ^ ) f对于所有。
定义_ 的邻域使得是中唯一的局部极小值,则点是的孤立局部极小值。
直观地说,弱局部最小化器是在其邻最小值的点。一个强大的局部最小化器可以被认为是(引用 Nocedal 等人的话)“它附近的直接赢家”。
但是我没有看到孤立的局部最小化器背后的直觉。一个强大的局部极小化器如何不是孤立的,如果在附近,它是唯一的极小化器?