对于这篇文章： $\mathcal{L} = \mathcal{L}(\lambda, \mu) = f(x) + \lambda h(x) + \mu g(x)$

你想要为所有有效的。 有效的满足 ,。 $\mathcal{L}(\lambda,\mu) \le f(x)$$x$
$x$$h(x) = 0$$g(x) \le 0$

如果满足，则中项为零，与无关。 $x$$h(x) = 0$$\lambda h(x)$$\mathcal{L}$$\lambda$

如果满足，则中项为负或零，只要。$x$$g(x) \le 0$$\mu g(x)$$\mathcal{L}$$\mu \ge 0$

对于有效是必需的。这使得拉格朗日函数成为有效的下界。$\mathcal{L} = f(x) + \lambda h(x) + \mu g(x) \le f(x)$$x$$f(x)$$x$

暂时忽略等式约束，只考虑不等式约束问题（假设所有函数至少一次连续可微）。现在想想点成为问题的最小化意味着什么：$x^\ast$

• 如果它位于由描述的域的内部（即：），那么只能是一个最小化器，如果因为否则方向会降低函数值。因此，在这种情况下，最优条件时才满足。$g(x)\le 0$$g(x^\ast)<0$$x^\ast$$\nabla f(x^\ast)=0$$-\nabla f$$\nabla f(x^\ast) + \mu^\ast \nabla g(x^\ast)=0$$\mu^\ast=0$

• 考虑最小值位于可行域边界的情况，即。在这种情况下，成为最小化器，在处的梯度必须垂直于边界并指向可行集，否则，将进入域或沿边界 a 的某个方向一点点会降低函数值。另一方面，向外方向垂直于边界的方向由给出。因此，我们可以将最优性条件表示为必须等于$x^\ast$$g(x^\ast)=0$$x^\ast$$f$$x^\ast$$\nabla g(x^\ast)$$\nabla f(x^\ast)$的负倍数。换句话说，与一些正乘数。$\nabla g(x^\ast)$$\nabla f(x^\ast) + \mu \nabla g(x^\ast) = 0$$\mu$

说得通？如果您从几何学的角度来考虑，这实际上是一个非常直观的论点。