增强集成模型中的验证集

数据挖掘 机器学习 神经网络 深度学习 过拟合 集成建模
2022-03-13 08:40:08

我有 8 个模型,我已经在我的 90% 的集合(训练集)上进行了训练,并在验证集的损失(原始集的 10%)上跟踪了它的性能。我想通过将不同的模型与密集层混合来生成一个集成模型。但是,验证集仅包含 64 个样本,我担心这可能会导致严重的过拟合。我想知道增加验证数据是否有意义,这样我就可以增加实例的数量并帮助防止过度拟合。

1个回答

您是否考虑过冻结集成模型本身并只允许最后一层的权重发生变化?那么过度拟合不应该那么明显......

您可能还想考虑交叉验证过程。