我有一个包含 4000 万个项目的数据集,其中每个项目都是 400 维双向量。我想要做的是找到与任意给定输入向量最相似的前k个(小k,大约3~10)项。相似度度量是余弦相似度,因为该数据集基于 word2vec 表示。
但是,这个数据太大了,所以它不能放在主存中(我现在在单机上工作)。我想要实现的目标是尽可能快地找到前 k 个相似的项目,并且内存小(~5G)可以容纳在 RAM 中。
对这个问题有什么建议吗?我已经尝试过 PCA,但我观察到这个低维投影的数据效果不佳..
我有一个包含 4000 万个项目的数据集,其中每个项目都是 400 维双向量。我想要做的是找到与任意给定输入向量最相似的前k个(小k,大约3~10)项。相似度度量是余弦相似度,因为该数据集基于 word2vec 表示。
但是,这个数据太大了,所以它不能放在主存中(我现在在单机上工作)。我想要实现的目标是尽可能快地找到前 k 个相似的项目,并且内存小(~5G)可以容纳在 RAM 中。
对这个问题有什么建议吗?我已经尝试过 PCA,但我观察到这个低维投影的数据效果不佳..
局部敏感散列是解决这个问题的好工具。
选择n 个随机的 400 维向量。(小心,否则并非所有方向都以相同的概率被选择;选择每个维度作为标准高斯。)每个方向都真正定义了一个通过原点的超平面,将您的空间切成两半。这些向量中的任何一个与一些新向量的点积的符号告诉你它在超平面的哪一侧。所以计算n点积会得到n 0/1 位,这会产生 n 位散列。
任何散列到相同值的新向量必须位于与原点相同的一小片空间中。这些正是彼此具有高余弦相似度的向量,因为它们的相互角非常小。同样,任何散列到几乎相同值的东西——在几位上有所不同——都可能在附近。因此,您可以将最相似向量的搜索限制在一个或多个散列候选向量桶内的事物。
它对内存没有直接帮助,因为您可能需要任何特定的存储桶来满足请求。您还会失去一些准确性,因为不能保证最相似的向量位于您检查的存储桶中(尽管很可能,您检查的越多)。它让您主要以速度换取准确性。但是,您可能会发现您可以摆脱一些缓存方案,其中一些存储桶很少被访问,因此不会留在内存中。
您可以在 Oryx 中看到它的实现,我认为这非常简单。
大部分复杂性是因为它允许您指定要评估的向量的目标百分比,并根据该值和您机器的核心数计算出最佳哈希大小。
有多种方法。
KD Tree 是一种高效的空间分割方法。参见维基百科。
因此它被用于直观地进行欧式距离邻居搜索。
为什么我说它也适用于余弦相似度,考虑 余弦相似度和 L2 归一化欧几里得距离之间的等价性。
什么时候和是单位向量,则:
这是一个近似的方法。
使用余弦相似度作为距离度量。
请参阅论文Scalable Nearest Neighbor Algorithms for High Dimensional Data。
这是一个近似的方法。
通过余弦相似度进行 K-Means 聚类后,我们得到 k 个子集和各自的质心。我们可以让 k 为 1000 或更大。
所以对于给定的查询点,我们的步骤是: