我在我的项目中使用 ensemble gru,并为不同的模型保留不同的单元格大小!例如,第一个 gru 模型的大小为 16,第二个 gru 模型的大小为 8,第三个模型的大小为 4。该模型运行良好,但我看不出在保持相同或不同单位大小的结果上有任何差异。任何人都可以解释不同单元大小对 ensemble gru 的影响。? 如果能用理论证明给出答案,那就太好了。
不同序列长度对集成 GRU 模型的影响
数据挖掘
lstm
格鲁
2022-02-13 19:50:10
1个回答
RNN 层中的单元数量决定了该层的“内存”量。更多的单位使模型(可能)能够记住更长的序列,并根据更早的信息来解释当前值。如果在另一边,单元的数量较短,则该层的模型将无法恢复过去的信息。这适用于任何 Recurren 架构(简单的循环、LSTM、GRU)。
如果你增加一个 GRU 层的单元数并且你发现你的模型质量没有提高,这可能意味着你的时间序列数据有“更短的内存”,即你不需要走那么远回到过去以解释当前值。当然我没有看你的数据,这只是恕我直言最可能的原因。
其它你可能感兴趣的问题