我正在尝试解决具有线性约束的单边非线性最小二乘问题，即问题：

$\min_{\mathbf{x}} \quad \sum^m_{i=1} \mathbf{r}_i(\mathbf{x}) \qquad \text{ s.t } \quad A\mathbf{x} \leq \mathbf{b}$

在哪里

$r_i(\mathbf{x})=f_i(\mathbf{x})^2$如果$f_i(\mathbf{x})>0$， 和$r_i(\mathbf{x})=0$别的。

换句话说，这可以被认为是一个最小二乘问题，其中只有正残差（$f$'s) 包括在内。我不能过分强调这不是一个数据拟合案例。我知道如果用于大多数数据拟合情况会发生什么，结果只是一个“高于”所有观察结果的函数。该应用程序用于解决通常在 minmax 范数中解决的非常具体的优化问题（$\min_{\mathbf{x}} ||\mathbf{f}(\mathbf{x})||_\infty$）。在所有实际情况下，解都不会达到零，即$||\mathbf{f}(\mathbf{x})||_\infty \neq 0$由于该行为$f$职能。

这$f$函数是非线性的，我们可以访问它们的导数，这样我们就可以分析地计算雅可比行列而不会有太多额外的麻烦。

我们已经成功地应用了 Levenberg-Marquardt 算法，其中目标函数如上所示，即$f$的低于 0 从总和中删除，并与雅可比行列式的相应行$J$设置为零（即$J_{i,:}=0$如果$f_i(\mathbf{x})<=0$. 这相当粗略，但工作正常，不幸的是我们无法合并线性约束。

我们知道有许多方法可以解决仅使用有界约束的 NLLSQ 问题，但这些方法显然不能解决我们的问题。我们发现只有一个具有线性约束的 NLLSQ，称为 DQED，并且通过修改我们的目标函数，就像我们对 Levenberg Marquardt 所做的那样，使用它并获得了有限的成功（我们对迭代/函数评估的次数不满意）。

我在找什么

对于解决具有线性约束的非线性最小二乘问题的方法的任何建议。此外，关于如何修改算法以纳入我们仅包含正残差这一事实的建议也非常受欢迎。最后，欢迎任何提示或想法，尽管我必须再次强调，问题的表述没有错，尽管我意识到由于缺乏可微性，它不是最适合优化的$r_i(\mathbf{x})$什么时候$r_i(\mathbf{x})=0$.