动态神经网络中的参数优化与选择

数据挖掘 机器学习 Python 优化 超参数 超参数调整
2022-03-08 19:17:34

我使用贝叶斯优化来调整机器学习参数。优化后的参数是"Hidden layer size"和“ learning rate”。现在我在处理动态神经网络时有两个问题:

  1. 我有 4 个数据集,即(房屋 1、房屋 2、房屋 3、房屋 4),如下表所示。该程序以相同的动态算法对每个数据集循环执行 4 次。每个数据集的优化参数是否保持不变。例如,我们也可以使用House 1for的优化参数House 4吗?通常,我在学术论文中看到作者只为静态神经网络中的各种数据集设置了一组优化参数。

    数据集学习率隐藏层大小

  2. 在动态网络中,网络架构会随着每个输入样本而有条件地变化。我们如何才能声称这是网络损失最小的最优参数?尽管每次新运行脚本时参数都会有少量变化。

0个回答
没有发现任何回复~