如何比较不同RNN单元的复杂度?

数据挖掘 rnn
2022-02-21 20:29:30

我想比较三种不同类型的 RNN,以确定哪种架构可以最好地处理我的数据。

为此,我希望它们具有相同的复杂性。我可以简单地通过可训练参数的数量来定义复杂性吗?如果不是,为什么?

假设我可以像这样计算网络的复杂度,我如何正确计算 vanilla RNN 单元、GRU 单元和 LSTM 单元的复杂度?

1个回答

复杂性的一个代表是训练时间。您可以对不同的架构进行基准测试,以了解运行时间有何不同。