数据挖掘 - 不确定如何在 PyTorch 中实现方程 - 吾爱随笔录

我正在尝试实现 SummaRuNNer 架构（Nallapati 等人）。

我遇到的问题是：

d = t a n h (W_{d} \frac{1}{N_{d}} \sum_{j = 1}^{N^{d}} [h_{j}^{f}, h_{j}^{b}] + b)

$d = tanh(W_{d}\frac{1}{N_{d}}\sum_{j=1}^{N^{d}}[h^{f}_{j},h^{b}_{j}] + b)$ 在哪里，

N_{d} =

$N_{d} =$ 文档中的句子数，

h_{j}^{f}

$h^{f}_{j}$ 和

h_{j}^{b}

$h^{b}_{j}$ 是前传和后传

j^{t h}

$j^{th}$ 句子，

[]

$[]$ 是连接操作，

b

$b$ 是一个偏置项并且

W_{d}

$W_{d}$ 是一个可学习的参数。

我的问题是，在 PyTorch 中实现这一点的最佳方法是什么。

另外，我知道已经在 PyTorch 中实现了这个特定架构的一个版本，但是，我不确定他们对这个等式的实现是否完全正确。