我目前正在尝试优化内置于 tensorflow 中的神经网络的学习率。该网络有 3 个隐藏层,分别有 500、250 和 100 个神经元。
我已经从 hyper-engine 的作者提供的示例中改编了代码,这是一个用于超参数优化的 python 包,可以与 tensorflow 一起使用。
该示例可在此处找到。
基本上所有改变的是为超参数优化提供的模型的定义。评估学习率的范围也缩小了一个数量级。当前搜索空间从 0.1 到 0.01。
这个 python 脚本的输出是一个 xjson 文件。xjson 由单个键值对的多个条目组成,{'points' : 'values'}。“值”非常清楚地代表了分类器对测试数据的准确性。关键“点”似乎应该代表与该键值对的相应准确性相对应的学习率。但是,点所取的值范围为 0.000002 - 1。
出于这个原因,我发现很难解释“点”的含义。我也未能在 github 上找到有关此包的输出解释的任何信息。
如果有人可以帮助我理解此代码的输出,将不胜感激。