我试图绘制与单词在句子中的位置相关的正确预测率（对于前 1 个候选名单）：

我期待在 ngram 设置上尽快看到一个平台，因为它是不必要的上下文。然而，我没想到的一件事是预测率下降了。据我了解，由于我们已经有了 3 个单词的上下文，因此高原应该渐近收敛到最高值。但是循环网络和 Ngram 模型都在经历这种下降。我不知道为什么会这样。

（注意 RNNLM 是用于构建循环神经网络的框架名称，它使用 500 个神经元和 100M 直接连接，RNN25 是相同的设置，但训练基数除以 for）

这是句子大小分布：

提前致谢。