我正在解决具有以下形式的约束的非线性约束优化：

$$\mathbf{A}^T\mathbf{A}-\mathbf{I}=\mathbf{0}, \mathbf{B}^T\mathbf{B}-\mathbf{I}=\mathbf{0}$$

其中和是我正在求解的矩阵。和的初始猜测是具有 1 或 -1 项的对角矩阵。$\mathbf{A}$$\mathbf{B}$$\mathbf{A}$$\mathbf{B}$

和的条目按列顺序平铺成一个向量作为变量来求解。我尝试了 NLopt 和 Opt++ 来解决我的问题，它们都失败了。在调试时我发现约束的梯度是一个奇异矩阵。和不一定是方阵，因此也不是约束梯度。$\mathbf{A}$$\mathbf{B}$$\mathbf{x}$$\mathbf{A}$$\mathbf{B}$

我的问题是：是否有任何算法来解决这种非线性约束优化，它不需要约束梯度？

=======编辑=========

目标函数为：

$$\textrm{off}(\mathbf{A^T\Lambda_XA})+\textrm{off}(\mathbf{B^T\Lambda_YB})+\mu\left\|\mathbf{F^T\Phi{}A}-\mathbf{G^T\Psi{}B}\right\|_{\mathbf{F}}^2$$

其中 off() 表示非对角元素的平方和，和是对角矩阵，和，和都是已知矩阵。$\Lambda_X$$\Lambda_Y$$\mathbf{F}$$\mathbf{G}$$\mathbf{\Phi}$$\mathbf{\Psi}$