EM-ELM 交叉验证

数据挖掘 机器学习 神经网络 交叉验证
2021-09-29 21:57:50

我知道交叉验证用于找到最小化平均误差的最佳超参数。例如,在 ELM 中估计最小化交叉验证平均误差的神经元数量。

但我想知道如何在 EM-ELM 网络中应用交叉验证(例如 K-Fold):

Feng, G., Huang, GB, Lin, Q., & Gay, R. (2009)。随着隐藏节点的增长和增量学习,错误最小化了极限学习机。IEEE Transactions on Neural Networks, 20 (8), 1352-1357。

使用训练集自动估计架构的位置。在 EM-ELM 中应用交叉验证的最佳和最标准的方法是什么?是否有可能将交叉验证过程纳入网络的发展中?

1个回答

交叉验证可用于调整任何超参数。

使用交叉验证调整极限学习机 (ELM) 的一种方法是:

  1. 将模型拟合到训练数据集的子集。使用评估指标衡量验证数据集的性能。
  2. 改变神经元超参数的数量。
  3. 将更新后的模型拟合到训练数据集的子集。使用评估指标衡量验证数据集的性能。
  4. 比较这两个模型,看看哪个模型在各自验证数据集的评估指标上更好。
  5. 重复步骤 3-4,直到满意为止。