与 svm 优化相关的困惑

计算科学 机器学习 支持向量机
2021-12-26 06:33:39

我正在阅读与内核 SVM 相关的这篇论文。它指出

支持向量机 (SVM) (Cortes and Vapnik, 1995) 作为最先进的分类算法已广泛应用于各个科学领域。内核的使用允许将输入样本映射到再现内核希尔伯特空间(RKHS),这对于解决线性不可分问题至关重要。虽然核 SVM 提供了最先进的结果,但操作核矩阵的需要带来了严重的计算瓶颈,因此难以在大数据上进行扩展。

我没有通过操纵内核矩阵来理解它们的意思。我的意思是说我正在使用 RBF 内核。然后我的内核矩阵将具有以下形式的元素

expσ||xixj||2

我可以计算一次然后把它放在那里。那么内核操作是什么意思

1个回答

他们只是指核矩阵本身是算法中的中心量这一事实。问题是它是O(n2)在大小上,在哪里n是被检查的点数。因此,围绕内核矩阵的存储和计算要求迅速变得不切实际,因为n变大。