计算科学 - 涉及矩阵微分方程解的非凸非线性优化 - 吾爱随笔录

我正在尝试为多元相关马尔可夫过程开发一个推理过程。基本上，该过程可以被视为非线性回归，在属于同一时间点且独立于其他时间点的观察之间具有已知的依赖结构。非线性趋势对应于矩阵微分方程的解。更详细的描述如下：

让我们定义一个矩阵 $\Theta$ 参数 $\theta_i$

\begin{array}{ccc} θ_{1} & θ_{4} & θ_{7} \\ θ_{2} & θ_{5} & θ_{8} \\ θ_{3} & θ_{6} & θ_{9} \end{array}

$\begin{array}{ccc} \theta_1 & \theta_4 & \theta_7 \\ \theta_2 & \theta_5 & \theta_8 \\ \theta_3 & \theta_6 & \theta_9 \end{array}$ 每个条目

θ_{i}

$\theta_i$ 可以是无约束的或线性约束的（平等和不平等）。该矩阵乘以给定的固定矩阵

V

$V$ 和前一个时间点的向量

\vec{X}

$\vec{X}$ 观察，控制随机过程的导数。因此，在我的目标函数中

\sum (\vec{Y} - f (Θ, \vec{X}))^{2}

$\sum(\vec{Y}-f(\Theta,\vec{X}))^2$ ，我需要计算矩阵微分方程的解，

f (Θ, \vec{X})

$f(\Theta,\vec{X})$ . 要计算解决方案，我需要计算一个矩阵

A

$A$ , 结合条目

Θ

$\Theta$ 根据

V

$V$ , 计算特征分解

A

$A$ 最后是解决方案

\hat{Y} = f (Θ, \vec{X})

$\hat Y=f(\Theta,\vec{X})$ （指数）。

目标函数是非凸的并且有许多局部最小值。运行一些模拟研究，我验证了全局最小值位于真实参数值处，并且目标在封闭邻域中是凸的。到目前为止，我使用约束高斯牛顿法来估计参数，并且在给定良好的初始值的情况下，它可以工作。放宽一些条件，计算初始值的方法不足以保证 Gauss-Newton 方法收敛到全局最小值（它卡在封闭的局部最小值中）。所以，我现在正在寻找一个全局优化器。我所有的代码都在 R 和 RCplex 中，我对 C++ 有一些经验。Cplex 是否能够解决非凸、线性约束问题并且足够灵活以允许我求解矩阵微分方程？有没有替代方案？有什么建议吗？谢谢。