对于弱局部极小化器、强局部极小化器和孤立局部极小化器的概念,最直观的解释是什么?

计算科学 优化
2021-12-02 23:50:02

阅读 Nocedal 关于优化的书,我接触到了局部最小化器的概念,这是数值优化中的一个著名概念。但是,我想我很难对不同类型的局部最小化器有一个直观的理解。让我们回顾一下以下三个定义:

定义_ 邻域使得对于所有是 f 的局部极小化.xfNxf(x)f(x)xN

定义_ 如果存在 x^* 的邻域 \mathcal{N} 使得 x ^ ) f对于所有xfNxf(x)<f(x)xNxx

定义_ 的邻域使得中唯一的局部极小值,则的孤立局部极小值xfNxxN

直观地说,弱局部最小化器是在其邻最小值的点。一个强大的局部最小化器可以被认为是(引用 Nocedal 等人的话)“它附近的直接赢家”。f

但是我没有看到孤立的局部最小化器背后的直觉。一个强大的局部极小化器如何不是孤立的,如果在附近,它是唯一的极小化器?

1个回答

我将引用本书中的备注 1.1 :

“孤立”意味着“严格”,但反之则不成立。例如,设 这里,是“严格的”但不是“孤立的”。f(x)

f(x)={0,x=0,x4(cos(1/x)+2),x0.
x=0

书中使用的“严格最小化器”对应于您定义的强最小化器。是全局最小值,但在其每个邻域中还有其他局部最小值。x