我正在为 NLP 构建一个深度学习模型。我很乐意从 word2vec 或 Glove 向量添加词嵌入作为额外的词特征,但我想添加其他词特征,如词的 POS 标签、词的 NER 标签以及嵌入作为特征。我怎样才能做到这一点。我是否应该通过将它们的向量与词向量连接来给出这些词的特征。或者有没有其他方法。请建议。
如何在递归神经网络模型中添加除词嵌入之外的额外词特征
数据挖掘
深度学习
nlp
rnn
2021-09-30 07:34:04
2个回答
一种选择是将它们连接起来,第二种是将它们视为单独的输入。例如 Keras 提供了这样的神经模型:https ://keras.io/getting-started/functional-api-guide/#multi-input-and-multi-output-models
我会将它们连接成一个输入向量。本质上,您的模型将词嵌入中的每个潜在变量视为单个特征(考虑常规 ML 模型)。在最后添加一对不会对您的表现造成太大影响。
另一种选择是遵循@djstrong 所说的关于多输入的内容。但我将从在输入向量末尾连接额外变量开始。
其它你可能感兴趣的问题