您可以将 ELMo 或 BERT 等模型视为仅编码器。它们可以很容易地用于分类或序列标记，但标记序列通常与源序列单调对齐。尽管 BERT 或 XLNet 中的 Transformer 层理论上能够进行任意重新排序（用于非自回归机器翻译模型），但这并不是 BERT 或 XLNet 的训练目标，因此很难对此进行微调。

如果至少源端和目标端的词汇表相同，我会推荐预训练的序列到序列模型：MASS或BART。

如果语法和词汇以及手语的语法都大不相同，也许使用 BERT 作为编码器并训练自己的轻量级自回归解码器可能是正确的方法。