假设我们要解决以下优化问题（这是本文中的 PCA问题）

如链接帖子中所述，使用拉格朗日乘数，我们可以将问题变为

我试图在这里做一个数值示例，以了解更多关于拉格朗日乘数如何改变问题的信息，但不确定我的验证过程是否正确。

我试验了虹膜数据的协方差矩阵（见代码）。该图显示了该问题的几何解，其中黑色曲线是目标函数的轮廓，绿色曲线是约束。红色曲线表示可以最大化目标并满足约束条件的最优解。

在我的代码中，我试图使用optimx最小化不受约束的目标函数。我正在更换$\lambda$用本征分解的解。

X=iris[,c(1,3)]
X$Sepal.Length=X$Sepal.Length-mean(X$Sepal.Length)
X$Petal.Length=X$Petal.Length-mean(X$Petal.Length)
C=cov(X)
r=eigen(C)

obj_fun<-function(x){
  w=as.matrix(c(x[1],x[2]),ncol=1)
  lambda=r$values[1]
  v=t(w) %*% C %*% w + lambda *(t(w) %*% w -1)
  return(as.numeric(v))
}

gr<-function(w) {
  lambda=r$values[1]
  v=2* C %*% w + 2*lambda* w
  return(v)
}

res=optimx::optimx(c(1,2), obj_fun,gr, method="BFGS")

我得到以下结果，其中目标函数与图形解决方案的最佳值相反。并且两个参数 p1 和 p2 为 0。

我的问题是这样的验证方法对吗？即，我们可以替换$\lambda$具有最大特征值并最小化目标函数$\mathbf w^\top \mathbf{Cw}-\lambda(\mathbf w^\top \mathbf w-1))$得到解决方案？