网格搜索后如何确定最佳参数?

数据挖掘 Python 神经网络
2022-03-04 10:24:29

我正在优化单层 MLP 的参数。我选择改变 4 个参数:隐藏层大小、容差、激活和正则化权重。其中每一个都有 4 个可能的值(4^4 = 256 种组合)。

所以问题是,如何确定一组参数在统计上明显优于另一个参数?

我的统计数据有点生疏,但我的第一个想法是 n-way ANOVA,每个因素有 4 个因素和 4 个自由度。有更好的吗?

1个回答

当我开始使用神经网络时,我也处于你的位置。有很多超参数可供选择,每个超参数都有很多值。就像Emre所说,您需要检查在您的数据(交叉验证集)上给出最佳指标分数的模型。该模型的参数值将是您的优化值。您也可以查看此链接