在 word2vec 的 CBOW 和 skip-gram 模型中，如何从（输入词矩阵）与选择词向量（输出词矩阵）影响结果词向量的质量？
CBOW：
跳过克：
word2vec 中的输入向量表示与输出向量表示
机器算法验证
神经网络
自然语言
word2vec
词嵌入
2022-03-13 17:18:26
1个回答
加滕等人。{1} 比较了通过将输入词向量与输出词向量相加获得的词向量，与通过连接输入词向量与输出词向量获得的词向量。在他们的实验中，连接产生了明显更好的结果：
视频讲座 {2} 建议对输入词向量与输出词向量进行平均，但不与将输入词向量与输出词向量连接起来进行比较。
参考：
- {1} Garten, J.、Sagae, K.、Ustun, V. 和 Dehghani, M.（2015 年 6 月）。结合词的分布式向量表示。在 NAACL-HLT 会议记录中（第 95-101 页）。
- {2} 斯坦福 CS224N：Christopher Manning 与深度学习的 NLP | 2019 年冬季 | 第 2 课——词向量和词义。https://youtu.be/kEMJRjEdNzM?t=1565（镜像）
其它你可能感兴趣的问题