我会使用训练和测试分区重新训练模型；这样做似乎没有什么损失，最终模型的性能可能会比悲观的（因为它基于较小的训练集）性能估计略好。

如果数据集很小，更好的解决方案是结合训练集和测试集并使用引导复制。您可以使用袋外性能估计器进行任何需要进行的微调，并且您可以使用相同的引导委员会（即装袋）进行验证集预测。

对于小型数据集，bagging 非常有用，因为如果您使用单个测试/训练拆分，测试集的性能会因测试集的小规模而变化很大，因此它是真实性能的不可靠估计。袋外估计器通常具有较低的方差，并且是更好的性能指南。同样，如果在单个训练集上进行训练，则预测器本身在 bagging 中的可变性更小。