为了获得更准确的结果,哪一个更好?添加更多层或增加时期数?我想知道这两种方法的效果之间的区别?
有什么不同?“添加更多 LSTM 层”还是“增加时代”?
数据挖掘
lstm
深度学习
时代
2022-02-10 13:31:41
1个回答
增加 epoch 的数量:
当您拥有庞大且多样化的数据集时,这是最好的选择。大型数据集是指数量相等的多个不同样本(无偏差)。此外,您可以使您的模型更好地泛化,您可能会增加辍学率并降低学习率。在这种情况下,增加 epoch 的数量将有助于模型更好地泛化。此外,由于它在多样化的数据集上进行了泛化,这意味着它可以在现实世界中表现良好。对于 LSTM,它们可以根据序列做出正确的预测。
增加 LSTM 的层数:
如果我们将每个 LSTM 视为一个内存单元,那么我们将增加内存单元的数量,从而增加整体内存。第一个序列将被馈送到下一层,因此模型可以创建数据的分层表示。如果您有具有像图像这样的上下文的序列,这会更好。
在考虑这两种情况时,如果您有丰富的数据,那么第一个选项是最佳的。如果您的数据复杂且多样性较低,则需要考虑第二点和第一点。