我是这个领域的新手,我正在阅读一篇论文“基于深度神经网络学习技术预测引用计数”。如果有人想重现结果,作者在那里描述了他们实现的代码。我试图这样做,但我不确定我是否成功。
这是他们的描述:
-RNN module - SimpleRNN
-Output dimension of the encoder - 512
-The output layer - Dense layer
-Activation function - ReLU
-Overfitting prevention technique - Dropout with 0.2 rate
-Epochs - 100
Optimization algorithm - RMSProp
Learning rate - 10^{-5}
Batch size - 256
这是我的实现。我不确定我创建的模型是否是序列到序列的。
epocsh = 100
batch_size = 256
optimizer = keras.optimizers.RMSprop(lr=0.00001)
model = keras.models.Sequential([
keras.layers.SimpleRNN(512, input_shape=[X_train.shape[0], X_train.shape[1]],
activation='relu', return_sequences=True, dropout=0.2),
keras.layers.Dense(9)
])
model.compile(loss='mse', optimizer=optimizer, metrics=[keras.metrics.RootMeanSquaredError()])
这个模型的总结是:
_________________________________________________________________
Layer (type) Output Shape Param #
=================================================================
simple_rnn (SimpleRNN) (None, 154521, 512) 266240
_________________________________________________________________
dense (Dense) (None, 154521, 9) 4617
=================================================================
Total params: 270,857
Trainable params: 270,857
Non-trainable params: 0
_________________________________________________________________
任何帮助,将不胜感激。谢谢!
更新:这是数据集。
year venue c1 c2 c3 c4 c5 c6 c7 c8 c9 c10 c11 c12 c13 c14
1989 234 0 1 2 3 4 5 5 5 5 8 8 10 11 12
1989 251 0 0 0 0 0 0 0 0 0 0 0 0 0 0
1990 346 0 0 0 0 0 0 0 0 0 0 0 0 0 0
我需要将 c5 之前的所有列作为输入,并尝试预测其他 c(这是未来几年的引用计数)。