对于这种非凸场景,是否有收敛的优化方案/算法,但具有一些特殊属性

计算科学 优化 参考请求 非凸的
2021-11-26 21:05:27

我有一个平滑函数它是两个平滑凸函数的比率。众所周知,具有全局最小值,在唯一点处实现。还知道有可数个局部最小值,并且函数在没有两个局部最小值处的值是相同的。f(x)=g(x)h(x)g(x)h(x)f(x)x0f(x)f(x)

问题:是否有针对这种情况的优化算法,可以收敛到全局最小值。我希望有一些梯度下降或类似的变体。感谢任何参考/解决方案。

1个回答

尽管您声称这些函数具有“特殊属性”,但您提供的属性仍然存在f并且g非常普遍。这意味着您将获得的答案必须是相应的一般性的。例如,如果你知道它g总是正的或f二次的,或者g是某种半正定矩阵,等等,那么你应该问一个新问题,从一开始就指定这个关键信息。

您要做的是凸凸分数规划。Schaible 1976 年的论文“ Minimization of ratios ”解释了如何将这样的问题转化为准凸问题 沙布勒 1976

所以你可以把它变成一个准凸问题。这意味着您可以使用二等分来解决步骤中容差限制了上面显示的变量的范围。ϵlog2((ul)/ϵ)lut

根据所涉及的功能,您也许可以使用 cvxpy 来解决问题。这里这里有一些显示拟凸函数二等分的例子