什么样的优化算法适合计算量大的函数?

计算科学 优化 复杂 随机
2021-12-19 17:10:01

我有一个参考值和一个模型值是使用带有参数的随机算法生成的。RMMab

目标是调整以使尽可能接近(启发式地)。但是每次运行大约需要 30 秒。看起来,任何“好”的算法都会被这种计算所干扰。即便如此,有什么(比其他)更好的算法选择?abMRM

如果我们要让最初快速收敛(并接受它在后期缓慢收敛),我应该寻找什么类型的算法?我的同事建议使用粒子群优化 (PSO)。这是一个不错的选择吗?|MR|

注意:我们需要“良好”的拟合,而不是“最佳”的拟合。我们的容忍度相当大。

2个回答

响应面模型(一种代理模型)通常用于此类情况。这个想法是对参数的值进行采样,计算,然后构建函数的回归模型(通常是二次或更高阶)。然后,您可以优化拟合模型。 abR(a,b)

主动学习(又名实验设计)策略适用于此。其中之一是Brian Borchers建议的响应曲面建模。这个想法是选择下一个要评估的点,以尽可能快地了解最佳 M。以下是一些新旧论文的起点:

  • 哈罗德·J·库什纳。一种在存在噪声的情况下定位任意多峰曲线最大值的新方法。基础工程杂志,第 86:97-106 页,1964 年 3 月。
  • J.莫库斯。全局优化的贝叶斯方法。控制与信息科学讲义,38:473–481, 1982。
  • Julien Villemonteix、Emmanuel Vazquez 和 Eric Walter。一种用于全局优化代价高昂的函数的信息化方法。全球优化杂志,2008 年 9 月,cs/0611143。