解释神经网络超参数优化的超引擎输出?

数据挖掘 机器学习 Python 神经网络 张量流 超参数调整
2022-03-09 06:02:19

我目前正在尝试优化内置于 tensorflow 中的神经网络的学习率。该网络有 3 个隐藏层,分别有 500、250 和 100 个神经元。

我已经从 hyper-engine 的作者提供的示例中改编了代码,这是一个用于超参数优化的 python 包,可以与 tensorflow 一起使用。

该示例可在此处找到。

基本上所有改变的是为超参数优化提供的模型的定义。评估学习率的范围也缩小了一个数量级。当前搜索空间从 0.1 到 0.01。

这个 python 脚本的输出是一个 xjson 文件。xjson 由单个键值对的多个条目组成,{'points' : 'values'}。“值”非常清楚地代表了分类器对测试数据的准确性。关键“点”似乎应该代表与该键值对的相应准确性相对应的学习率。但是,点所取的值范围为 0.000002 - 1。

出于这个原因,我发现很难解释“点”的含义。我也未能在 github 上找到有关此包的输出解释的任何信息。

如果有人可以帮助我理解此代码的输出,将不胜感激。

0个回答
没有发现任何回复~