我对机器学习和统计还很陌生,但我想知道为什么在学习机器学习来优化算法超参数时,为什么不经常在线提及贝叶斯优化?例如使用这样的框架:https ://github.com/fmfn/BayesianOptimization
超参数的贝叶斯优化是否比网格搜索或随机搜索等技术有任何限制或主要缺点?
我对机器学习和统计还很陌生,但我想知道为什么在学习机器学习来优化算法超参数时,为什么不经常在线提及贝叶斯优化?例如使用这样的框架:https ://github.com/fmfn/BayesianOptimization
超参数的贝叶斯优化是否比网格搜索或随机搜索等技术有任何限制或主要缺点?
换句话说,BO 试图将函数评估的数量保持在最低限度,并从每次评估中获得最大的“收益”。如果您正在进行破坏性测试,或者只是进行需要大量时间执行的模拟,这一点很重要。但除了最昂贵的情况外,应用纯随机搜索并收工!(或者如果您的问题符合其假设,则为 LIPO。)它可以为您省去许多麻烦,例如优化您的贝叶斯优化程序。