在神经图灵机 (NTM) 中，阅读记忆表示为

$$\begin{align} r_t \leftarrow \sum\limits_i^R w_t(i) \mathcal{M}_t(i) \tag{2} \end{align}$$

写入内存表示为

第一步：擦除

$$\begin{align} \mathcal{M}_t^{erased}(i) \leftarrow \mathcal{M}_{t-1}(i)[\mathbf{1} - w_t(i) e_t ] \tag{3} \end{align}$$

第二步：添加

$$\begin{align} \mathcal{M}_t(i) \leftarrow \mathcal{M}_t^{erased}(i) + w_t(i) a_t \tag{4} \end{align}$$

在读取机制中，如果我们将这个示例值应用于上述公式，而不是向量，我们会得到一个值为 2 的标量。

M_t =[[1,0,1,0],
      [0,1,0,0],
      [1,1,1,0]]

w_t = [1,1,1]

同样的事情也发生在写作中。这里我们取两个向量的点积， $w_t(i) e_t$，以标量值作为输出。根据论文，除非$w_t$或者$e_t$为零，它将擦除内存矩阵中的所有值。

我自己对 NTM 内存的想法是，它使用权重来查找内存矩阵中与某个任务相对应的索引或行。

NTM 中的内存是如何工作的？

特定任务的内存是如何存储的，也就是说，它是按行存储还是存储在整个矩阵中？