我建议你阅读http://colah.github.io/posts/2015-08-Understanding-LSTMs/

基本上，长时记忆和短时记忆都体现在 LSTM 网络的结构上。请看一下我提到的网站上的图表。

长时记忆是在顶部的“总线”中构建的，可以传递之前的值，取决于$\sigma$价值。这$\sigma$在。。。之间$[0,1]$和$0$意味着-忘记最后一个值，$1$意味着-从最后一个状态获取所有（精确）值。每个单元格的 Sigmas 在训练阶段建立。