嵌入是一个词的表示还是它的含义?

人工智能 术语 词嵌入 嵌入
2021-10-30 05:16:06

“嵌入”一词实际上是什么意思?

嵌入是一个向量,但该向量是一个词的表示还是它的含义?文学为这两个目的松散地使用了这个词。哪一个实际上是正确的?

还是有类似的东西:一个词本身就是它的意义

2个回答

嵌入是一个词的表示,可以用作其某些语言属性的代理。

一个单词的“人类”表示,一系列字母和其他符号,与它的含义或在实际文本中的使用完全无关。它仅作为我们认知语言处理设施(但实际上有效)的查找键,使我们能够理解其使用上下文中的含义。然而,计算机系统没有这样的设施。

为了将字符串转换为更可用于语言处理的内容,创建了嵌入。这些通常是描述围绕相关单词的其他单词的向量(因为单词的含义取决于其上下文)。模棱两可存在明显的问题(例如,银行是在河边还是你存钱的地方?),但可能有办法解决这个问题。

所以嵌入(一个向量)代表了一个词的用法,它与它的含义密切相关。因为作为字符序列的单词对于大多数子符号处理是无用的,所以术语嵌入单词可能可以互换使用。

尽管我们有多个类似的问题(请参阅此处此处此处),并且在我看来,您专注于词嵌入(可能是因为您不知道嵌入在其他上下文中的应用),除了另一个答案,重要的是要注意嵌入的概念不仅仅适用于单词。例如,还有代码嵌入(参见例如code2vec)和图形嵌入(参见例如this),可能还有其他例子。链接的帖子包含解释嵌入和嵌入空间通常是什么的答案,因此您可能需要阅读它们。