我猜$A$和$B$也被假定为对称的。

您的第二个优化问题不等于第一个优化问题，原因有两个：
（1）您忘记了约束，它对应于旧的正交约束。 (2)可能是单数，在这种情况下，您不能从$YY^T=FF^T$
$F$$X$$Y$

结果，你的转变一无所获。确实，似乎没有封闭形式的解决方案。

但是，您可以通过将和转换为对角线形式（光谱分解）并相应地转换来简化问题：因子，与对角线，正交正交，以及定义 。则是正交的，，可以恢复为。因此，这保留了正交性约束，并将目标函数简化为。$A$$B$$X$$A=QaQ^T$$B=UbU^T$$a,b$$Q,U$$Z=U^TXQ$$Z$$tr~AX^TbX=tr~ aZ^TbZ$$X$$X=UZQ^T$$\sum_{i,k} a_ib_k Z_{ik}^2$

现在你有两个选择：

(i) 将问题作为约束优化问题提交给标准约束优化问题求解器，例如 IPOPT。

(ii)参数化为反射或旋转的乘积。（这是 QR 分解的 Householder 或给定版本，应用于正交矩阵。使用反射向量各自的旋转角度作为新变量。）然后提出寻找最佳参数的问题作为无约束的优化问题。$Z$$Z$

请注意，(i) 准备起来要简单得多，因为要获得高质量的解决方案，应该为求解器提供明确的一阶导数信息。