拉格朗日乘数:约束符号的作用

机器算法验证 机器学习 优化 拉格朗日乘数
2022-04-07 13:21:16

我是初学者通过wiki 文章学习拉格朗日乘数。

考虑:

根据最大化f(x,y)g(x,y)=0

我知道要最大化我必须遵循渐变我也明白约束的梯度必须与 共线(检查是否投影到约束线等于 0)。x,yfx,ygx,yfx,yf

但我完全误解了符号在平等中的作用。

x,yf=λx,yg

其中并且我们最大化λ>0f(x,y)

见维基图片:

在此处输入图像描述

我可以想象给出与 g(x,y) = 0 相同的一组点(红线)具有相反的梯度(相反的红色箭头方向)并且在在这种情况下,我的最大值将变为最小值?!g(x,y)=0x,yg(x,y)=0f

1个回答

等式约束的拉格朗日乘数没有符号限制。不等式约束的拉格朗日乘数确实有符号限制。

如果您想了解拉格朗日乘数https://en.wikipedia.org/wiki/Karush%E2%80%93Kuhn%E2%80%93Tucker_conditions ,您应该真正查看 Karush-Kuhn-tucker 条件。实际上,您将需要学习一本书或课程笔记。这是作者网站http://stanford.edu/~boyd/cvxbook/提供的免费 pdf 格式的高质量书籍如果你能熬过第 5 章,你的状态就会很好。