牛顿法是求解非线性方程的定点迭代法。在优化功能的背景下$f(x)$，您应用此方法来找到必要最优性条件的解决方案$f'(x) = 0$. 但是，这种情况表征了所有固定点，例如最大化点或鞍点，因此该方法很乐意为您提供其中一个（如果存在）。此外，牛顿法只是局部收敛的，所以它会给你最接近起点的局部最小化器（或最大化器）（如果它完全收敛的话）。

Beale 的函数确实有一个鞍点$(0,1)$， 自从$\partial_x f(0,1) = \partial_y f(0,1) = 0$, 但黑森

$$\begin{pmatrix} \partial_{xx} f(0,1) & \partial_{xy} f(0,1) \\ \partial_{xy} f(0,1) & \partial_{yy} f(0,1)\end{pmatrix} = \frac{111}{4}\begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}$$ 有特征值$\pm 111/4$.

事实上，Beale 的方法是一种流行的折磨测试来说明为什么全局最小化器难以计算……

编辑：具有适当线搜索的梯度方法有一个额外的机制，试图强制（足够的）函数值减少，因此在大多数情况下会避免最大化。他们也倾向于避免鞍点（至少与牛顿的方法相比），但正如 Geoff Oxberry 指出的那样，并不能保证。

对于无约束的优化问题，确定性优化方法会收敛到固定点。静止点是目标函数的梯度为零的点。这些点不一定是最优的，除非满足其他条件。对于最小化问题，如果在静止点处评估的 Hessian 矩阵是半正定的，则​​该静止点是局部最小值。如果目标函数是凸的（等效地，对于两次连续可微的目标函数，Hessian 在任何地方都是半正定的），则静止点是全局最小值。

您遇到的问题是您试图最小化的目标函数是非凸的。正如 ChristianClason 指出的那样，您收敛到一个固定点，但该固定点是一个鞍点，这意味着您的目标函数不是凸的，因此不能保证收敛到全局最小值。

其他人已经提出了解决方案。我的建议是看一下 Nocedal 和 Wright 的书“数值优化”。这本书有一整节关于“Hessian 修改”，正是针对您正在观察的问题。它确实非常易读，并以简单的步骤列出了问题及其解决方案。