我有一个关于 CBOW 预测的问题。假设我的工作是使用 3 个环绕词 w(t-3)、w(t-2)、w(t-1) 作为输入来预测一个目标词 w(t)。一旦模型经过训练，我想在一个句子之后预测一个缺失的单词。这个模型是否只适用于前三个已知而最后一个未知的四个单词的句子？如果我有一个 10 字的句子。前九个单词是已知的，我可以使用 9 个单词作为输入来预测该句子中最后一个缺失的单词吗？
CBOW模型只能接受固定数量的单词吗？
数据挖掘
深度学习
word2vec
nlp
2021-09-29 17:08:48
1个回答
这是个好问题。答案是肯定的和否定的。
不，因为 CBOW 模型的输入层需要固定数量的单词。所以你要么总是输入 3 个词或 9 个词。
是的，因为您可以将序列长度设置为 9 个单词并仅提供 3 个单词作为上下文，而其余 6 个单词可以只是零向量。请记住，在 CBOW 中，每个单词都由一个向量表示。
其它你可能感兴趣的问题