使用近似算法来调整给定算法的参数值

计算科学 优化 机器学习 线性规划 近似
2021-12-14 04:32:24

问题:

我有一个增量在线聚类算法,需要用户在执行前指定 4 个参数。如果选择“一个好的参数值”,该算法将给出“好的结果”,但没有办法事先知道最佳匹配的参数值是什么。例如,我们可以执行多次执行并在每次执行后评估结果,直到找到最佳参数值。但是,如果我们更改算法处理的数据集,我们需要再次确定该数据集的最佳参数值是什么。此外,在线算法应该处理不断到达和不断发展的数据流,即我们事先没有所有数据。

问题:

我的问题不在于在线聚类算法本身;我只是想知道是否有任何解决方案/方法可以在执行过程中自动调整参数值?在我的情况下,如何使用近似算法来调整参数值?我可以使用哪种近似算法以及如何(如有必要)调整它来解决这个问题?欢迎任何想法。

1个回答

您可以尝试许多不同类型的近似值(或“代理模型”)。想到的一些是克里金法MARS径向基函数这些类型的代理模型(与多项式回归相反)可以适应广泛的函数关系,但您可能需要进行一些试验才能找到最适合您的应用程序的模型。

此外,由于找到最佳参数是您的最终目标,您可能需要查看高效全局优化方法。该方法在搜索全局最优时自适应地构建克里金模型。过去,我用这种方法取得了很大的成功。